Знайдений новий спосіб пошуку помилок в ШІ безпілотних автомобілів


Учені представили своє дослідження на щорічному Симпозіумі по основах операційних систем (Symposium on Operating Systems Principles, SOSP). Конференція проходила в Шанхаї з 28 по 31 жовтня. Новий метод, DeepXplore, використовує принаймні три нейронні мережі. Вони взаємодіють як “перехресні оракули”, перевіряючи точність роботи один одного.

Як працює DeepXplore?

Дослідники з Колумбійського і Лихайского університетів розробили DeepXplore для вирішення проблеми оптимізації, в якій вони прагнули досягти найкращого балансу між двома цілями. Перша – максимізувати число нейронів, активованих в нейронних мережах. Друга – ініціювати якомога більше суперечливих рішень серед різних нейронних мереж.

Припускаючи, що більшість нейронних мереж приймають правильне рішення, DeepXplore автоматично перенастроює нейронну мережу, яка прийняла інше рішення, щоб вона наслідувала приклад більшості в цьому сценарії.

Инджи Цао, доцент кафедри інформатики Лихайского університету, говорить:

Це платформа диференціального тестування, яка може знайти тисячі помилок у безпілотних автомобілях і схожих нейромережевих системах.

Цей приклад з DeepXplore показує помилку, виявлену в програмному забезпеченні для безпілотних автомобілів Nvidia DAVE, – 2. Вона може привести до того, що автомобіль вріжеться в обгороджування із-за темнішої версії зображення.

Неправильне рішення ШІ безпілотного автомобіля може спричинити дуже неприємні наслідки. Наприклад, автомобіль може зіткнутися з іншою машиною, врізатися в обгороджування, збити пішохода або велосипедиста. Зведення таких помилок до мінімуму є дуже важливим завданням.

При тестуванні DeepXplore прагне максимізувати охоплення нейронів, активуючи їх максимальну кількість і різні шляхи нейронних мереж. Такий підхід дає можливість активувати 100 % мережевих нейронів, що приблизно на 30 % більше, ніж в звичайних методах тестування.

Тестування 15 просунутих нейронних мереж на 5 загальнодоступних наборах даних показало, що DeepXplore може знайти тисячі раніше не виявлених помилок в самих різних додатках глибокого навчання. У тестові набори даних включалися сценарії автопілотування автомобіля, розпізнавання об’єктів на зображеннях і виявлення замаскованого шкідливого ПО.

DeepXplore ще не може гарантувати виявлення абсолютно усіх помилок в системі. Проте ця технологія більша і показує себе краще, ніж старі методи, при тестуванні великомасштабних нейронних мереж. Це безперечно крок назустріч безпечному безпілотному водінню.

Джерело: IEEE Spectrum

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *