Як зробити ШІ надійним

Однією з найбільших перешкод на шляху впровадження нових технологій є довіра до ШІ.

Тепер новий інструмент, розроблений дослідниками USC Viterbi Engineering, генерує автоматичні індикатори, якщо дані та прогнози, створені алгоритмами ШІ, є надійними. Їх дослідницька робота "Зрештою є надія: кількісна оцінка думки та довіри до нейронних мереж" Мінсі Ченг, Шахін Назарян та Пол Богдан з USC Cyber ​​Physical Systems Group, була представлена ​​в Межі в галузі штучного інтелекту.

Нейронні мережі — це тип штучного інтелекту, який моделюється на основі мозку та генерує прогнози. Але чи можна довіряти прогнозам, які генерують ці нейронні мережі? Однією з ключових перешкод на шляху прийняття самокерованих автомобілів є те, що транспортні засоби повинні діяти як незалежні особи, що приймають рішення щодо автопілота, і швидко розшифровувати та розпізнавати предмети на дорозі — будь то об’єкт — ударна швидкість, неживий об’єкт, домашня тварина або дитина — і приймати рішення про те, як діяти, якщо інший транспортний засіб рухається до нього. Чи повинен автомобіль наїхати на зустрічний транспортний засіб чи з’їхати та вдаритись по тому, що транспортний засіб сприймає як неживий предмет чи дитину? Чи можемо ми довіряти комп’ютерному програмному забезпеченню в транспортних засобах приймати обґрунтовані рішення за частки секунди, особливо коли суперечлива інформація надходить із різних методів зондування, таких як комп’ютерне бачення з камер чи дані з lidar? Знання, яким системам довіряти і яка зондова система є найбільш точною, було б корисним для визначення того, які рішення повинен приймати автопілот.

Провідного автора Мінсі Ченга підштовхнула до роботи над цим проектом така думка: "Навіть люди можуть бути нерішучими у певних сценаріях прийняття рішень. У випадках, що стосуються суперечливої ​​інформації, чому машини не можуть сказати нам, коли вони цього не знають?"

Інструмент, який автори створили під назвою DeepTrust, може кількісно визначити величину невизначеності ", — говорить Пол Богдан, доцент кафедри електротехніки та обчислювальної техніки Мін Сі і відповідний автор, і, отже, якщо необхідне втручання людини.

Розробка цього інструменту зайняла дослідницькій групі USC майже два роки, використовуючи так звану суб’єктивну логіку для оцінки архітектури нейронних мереж. В одному зі своїх тестових випадків, опитуваннях президентських виборів 2016 року, DeepTrust виявили, що прогноз, що вказує на перемогу Клінтон, має більший запас помилок.

Інше значення цього дослідження полягає в тому, що воно дає уявлення про те, як перевірити надійність алгоритмів ШІ, які зазвичай навчаються від тисяч до мільйонів точок даних. Було б неймовірно трудомістко перевірити, чи кожен із цих пунктів даних, які інформують прогнози ШІ, був точно позначений. Швидше, на думку дослідників, більш критичним є те, що архітектура цих нейромережевих систем має більшу точність. Богдан зазначає, що якщо інформатики хочуть одночасно максимізувати точність і довіру, ця робота також може слугувати орієнтиром щодо того, скільки "шуму" може бути при тестуванні зразків.

Дослідники вважають, що ця модель перша у своєму роді. Богдан каже: "Наскільки нам відомо, не існує моделі кількісної оцінки довіри чи інструменту для глибокого навчання, штучного інтелекту та машинного навчання. Це перший підхід і відкриває нові напрямки досліджень". Він додає, що цей інструмент може зробити "штучний інтелект обізнаним та адаптивним".

Facebook Comments