Знайдений новий спосіб пошуку помилок у ШІ безпілотних автомобілів


Дізнайтесь більше про нові кар'єрні можливості в EchoUA. Цікаві проекти, ринкова оплата, гарний колектив. Надсилайте резюме та приєднуйтеся до нас.

Учені представили своє дослідження на щорічному Симпозіумі з основ операційних систем (Symposium on Operating Systems Principles, SOSP). Конференція проходила в Шанхаї з 28 по 31 жовтня. Новий метод DeepXplore використовує принаймні три нейронні мережі. Вони взаємодіють як “перехресні оракули”, перевіряючи точність роботи один одного.

Як працює DeepXplore?

Дослідники з Колумбійського і Ліхайського університетів розробили DeepXplore для вирішення проблеми оптимізації, в якій вони прагнули досягти найкращого балансу між двома цілями. Перша – максимізувати число нейронів, активованих у нейронних мережах. Друга – ініціювати якомога більше суперечливих рішень серед різних нейронних мереж.

Припускаючи, що більшість нейронних мереж приймають правильне рішення, DeepXplore автоматично перенастроює нейронну мережу, яка прийняла інше рішення, щоб вона наслідувала приклад більшості в цьому сценарії.

Інджі Цао, доцент кафедри інформатики Ліхайського університету, наголошує:

Це платформа диференціального тестування, яка може знайти тисячі помилок у безпілотних автомобілях і схожих нейромережевих системах.

Цей приклад з DeepXplore показує помилку, виявлену в програмному забезпеченні для безпілотних автомобілів Nvidia DAVE-2. Вона може призвести до того, що автомобіль в’їде в огорожу через темнішу версію зображення.

Неправильне рішення ШІ безпілотного автомобіля може спричинити дуже неприємні наслідки. Наприклад, автомобіль може зіткнутися з іншою машиною, в’їхати в огорожу, збити пішохода або велосипедиста. Зведення таких помилок до мінімуму є дуже важливим завданням.

Під час тестування DeepXplore прагне максимізувати охоплення нейронів, активуючи їх максимальну кількість і різні шляхи нейронних мереж. Такий підхід дає можливість активувати 100 % мережевих нейронів, що десь на 30 % більше, ніж у звичайних методах тестування.

Тестування 15 просунутих нейронних мереж на 5 загальнодоступних наборах даних показало, що DeepXplore може знайти тисячі раніше не виявлених помилок у різних додатках глибокого навчання. До тестових наборів даних включалися сценарії автопілотування автомобіля, розпізнавання об’єктів на зображеннях і виявлення замаскованого шкідливого ПЗ.

DeepXplore ще не може гарантувати виявлення абсолютно всіх помилок у системі. Проте ця технологія більша і дає кращі результати, ніж старі методи, при тестуванні великомасштабних нейронних мереж. Це, безперечно, крок назустріч безпечному безпілотному водінню.

Джерело: IEEE Spectrum

Київ, Харків, Одеса, Дніпро, Запоріжжя, Кривий Ріг, Вінниця, Херсон, Черкаси, Житомир, Хмельницький, Чернівці, Рівне, Івано-Франківськ, Кременчук, Тернопіль, Луцьк, Ужгород, Кам'янець-Подільський, Стрий - за статистикою саме з цих міст програмісти найбільше переїжджають працювати до Львова. А Ви розглядаєте relocate?


Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *