ТЕОРІЯ «ЧОРНОГО» ЯЩИКУ В НЕЙРОМЕРЕЖАХ - Научное сообщество

Вас приветствует Интернет конференция!

Приветствуйем на нашем сайте

Рік заснування видання - 2011

ТЕОРІЯ «ЧОРНОГО» ЯЩИКУ В НЕЙРОМЕРЕЖАХ

09.12.2022 19:38

[1. Информационные системы и технологии]

Автор: Соколова Вікторія Костянтинівна, студентка, Харківський національний університет радіоелектроніки, м Харків


Сьогодні, у людей, які розробляють штучний інтелект, все частіше виникають проблеми з поясненням того, як він працює, та розумінням, чому він дає ті результати, які дає. Глибокі нейронні мережі, що імітують роботу нейронних мереж нашого мозку, часто, відбивають як людський інтелект, а й незрозумілість глибин людської свідомості.

Більшість систем штучного інтелекту є класичними моделями «чорного» ящику. Тобто ці системи розглядаються тільки з точки зору того, що у них на вході, і того, що на виході. Розробники просто отримують результати і  порівнюють їх з тими, які хотіли б отримати. Вони не намагаються розшифрувати «чорний» ящик або зрозуміти ті непрозорі процеси, які виконує система, допоки займається пошуком результату.

У міру того, як системи штучного інтелекту стають все більш складними, ми дедалі менше здатні їх розуміти. Тому дослідники ШІ і попереджають розробників, щоб вони приділяли більше уваги тому, чому система дає певні результати, та вбудували у свої системи механізми, які допомагають визначити причини тих чи інших рішень усередині «чорного» ящику.

Якщо все, що маємо, – це «чорний» ящик, то неможливо зрозуміти причини збоїв і підвищити безпеку системи. Крім того, якщо звикнемо приймати відповіді ШІ без пояснення причин, тоді не зможемо визначати, якщо ШІ почне давати неправильні відповіді. 

Моделі «чорного» ящику можуть бути дуже потужними і швидко видавати те, що потрібно їх розробникам. Саме тому вони використовуються для розробки безпілотних автомобілів, чат-ботів та навіть діагностики захворювань. При цьому деякі завдання вони здатні виконувати краще, ніж люди. Але небезпека полягає в тому, що неможливо зрозуміти, в яких випадках може статися помилка, і навіть визначити, коли вона стане системною.

У багатьох випадках у принципі неможливо створити осмислену нейронну мережу, тому що вхідні дані просто не містять достатньої кількості інформації. 

Якщо механізм роботи не важливий, то залежність результатів від вхідних даних, як правило, відома; концепція «чорного» ящика при цьому використовується, щоб не відволікатися на внутрішню будову. Проте такий підхід може дати помилку при використанні пристрою на межі його можливостей.

Модель «чорного» ящику часто виявляється не тільки дуже корисною, але в ряді випадків єдино прийнятною при вивченні систем. Простота моделі «чорного» ящика оманлива. Завжди існує небезпека неповноти складання переліку входів і виходів, як внаслідок того, що важливі з них можуть бути полічені несуттєвими, так і в силу невідомості деяких з них в момент побудови моделі.

Література

1. V Tkachov Cellular Technology Based Overlay Networks for the Secure Control of Intelligent Mobile Objects: Models and Numerical Study/ V Tkachov, A Kovalenko, V Kharchenko, M Hunko // ICTERI 2021: Information and Communication Technologies in Education, Research, and Industrial Applications. – Kherson, Ukraine, October 2, 2021. – Pp. 42-63.

2. V Tkachov Cellular Technology Based Overlay Networks for the Secure Control of Intelligent Mobile Objects/ V Tkachov, A Kovalenko, V Kharchenko, M Hunko // ICTERI 2021: Information and Communication Technologies in Education, Research, and Industrial Applications. – Kherson, Ukraine, October 2, 2021. – Pp. 480-490.

3. M Hunko. Application Architecture For Obtaining Data From Scientometric Databases / M Hunko, V Tkachov, O Liashenko, J Rabčan // 2022 IEEE 3rd KhPI Week on Advanced Technology (KhPIWeek). – Kharkiv, 2022.

4. Tkachov V. Principles of Constructing an Overlay Network Based on Cellular Communication Systems for Secure Control of Intelligent Mobile Objects / Vitalii Tkachov, Andriy Kovalenko, Mykhailo Hunko and Kateryna Hvozdetska // Информационные технологии и безопасность. Материалы XIX Международной научно-практической конференции ИТБ-2020. – К.: ООО "Инжиниринг", 2020. – С. 51-55.



Creative Commons Attribution Ця робота ліцензується відповідно до Creative Commons Attribution 4.0 International License
допомога Знайшли помилку? Виділіть помилковий текст мишкою і натисніть Ctrl + Enter
Конференции

Конференции 2024

Конференции 2023

Конференции 2022

Конференции 2021



Міжнародна інтернет-конференція з економіки, інформаційних систем і технологій, психології та педагогіки

Наукова спільнота - інтернет конференції

:: LEX-LINE :: Юридична лінія

Інформаційне суспільство: технологічні, економічні та технічні аспекти становлення