Учені MIT обманули систему розпізнавання зображень Google


Дізнайтесь більше про нові кар'єрні можливості в EchoUA. Цікаві проекти, ринкова оплата, гарний колектив. Надсилайте резюме та приєднуйтеся до нас.

Учені з лабораторії MIT LabSix, які досліджують штучний інтелект, обманули систему розпізнавання зображень Google InceptionV3, змусивши її прийняти бейсбольний м’яч за еспресо, надруковану на 3d-принтері черепаху за рушницю, а кота – за гуакамоле.

Як у них це вийшло?

Спочатку експеримент може видатися дивним, але його результати показують, що довіряти ШІ розпізнавання об’єктів у реальних умовах може бути небезпечним. Наприклад, камери безпілотних автомобілів використовують схожі технології для розпізнавання пішоходів у русі й визначення погодних умов. Якщо зображення стоп-сигналу виявиться розмитим або спотвореним, контролююча транспорт програма могла б його сплутати, що привело б до жахливих наслідків.

Результати дослідження, опубліковані раніше, показують, що ШІ схильний неправильно розпізнавати предмети у реальному світі, якщо ті злегка спотворені, будь то зроблено спеціально чи ні.

Дослідники назвали такі спотворені предмети або образи, на зразок черепахи, візерунки панцира якої нагадують приклад рушниці, “змагальними зразками”.

Наша робота демонструє, що змагальні зразки – проблема більш значуща у реальному світі, ніж було прийнято вважати.

За допомогою надрукованої на 3d-принтері черепахи учені провели декілька тестів. У першому експерименті команда показує програмі звичайну черепаху, і та розпізнає її правильно. Потім дослідники трохи змінюють текстуру панцира черепахи – майже невловимо для людського ока – але це змушує машину розпізнати в черепасі рушницю.

Дивовижним є той факт, що “спотворена” черепаха була неправильно розпізнана з більшості кутів, навіть коли її перевернули.

Для застосування такої продуманої до дрібниць хитрості вчені MIT використали власну програму, спеціально розроблену для створення “змагальних” зображень. Ця програма симулює реальні ситуації на зразок розмитих або обертальних об’єктів, з якими, швидше за все, може зіткнутися у реальному світі ШІ.

Враховуючи розвиток технологій ШІ, що здається безперестанним, та їх застосування в нашому житті (машини, генерація зображень, самонавчальні програми), спроби вчених обманути їх,  важливі, оскільки в такий спосіб виявляються їх слабкості.

Джерело: Mashable

Київ, Харків, Одеса, Дніпро, Запоріжжя, Кривий Ріг, Вінниця, Херсон, Черкаси, Житомир, Хмельницький, Чернівці, Рівне, Івано-Франківськ, Кременчук, Тернопіль, Луцьк, Ужгород, Кам'янець-Подільський, Стрий - за статистикою саме з цих міст програмісти найбільше переїжджають працювати до Львова. А Ви розглядаєте relocate?


Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *