Команда Google DeepMind провела дослідження агресії у відносинах між декількома ШІ


Дізнайтесь більше про нові кар'єрні можливості в EchoUA. Цікаві проекти, ринкова оплата, гарний колектив. Надсилайте резюме та приєднуйтеся до нас.

Торік знаменитий фізик Стівен Хокінг сказав, що постійний розвиток штучного інтелекту врешті-решт приведе до “найкращої або найгіршої події в житті людства”.

Усі ми бачили фільм “Термінатор” і описаний у ньому постапокаліптичний жах, коли ШІ Скайнет, який усвідомив себе, намагався знищити людство. Нещодавнє дослідження поведінки нового ШІ від Google DeepMind показало, наскільки обережними необхідно бути при розробці подібних технологій.

 

Попередні версії ШІ від DeepMind продемонстрували здатність навчатися незалежно від власної пам’яті. Це допомогло машині здобути перемогу над кращими у світі гравцями в Го.

Тепер же дослідники вирішили протестувати його здатність і бажання співпрацювати з іншими. З’ясувалося, коли DeepMind наближається до поразки, то вибирає агресивну стратегію, забезпечуючи собі перемогу.

Чим пояснюється агресивна поведінка ШІ?

Команда Google провела 40 млн партій у просту гру зі збиранням фруктів, коли два ШІ-агенти повинні змагатися один з одним у зборі віртуальних яблук. На початку гри все йшло, як годиться, але коли кількість яблук зменшилась, обидва ШІ-агенти почали застосовувати агресивну тактику, використовуючи лазерні промені, щоб вивести один одного з гри і вкрасти всі яблука.

Ви можете подивитися запис гри – гравці забарвлені в синій і червоний кольори, віртуальні яблука – в зелений, а лазерні промені – в жовтий:

Цікаво, що у випадку коли один з агентів успішно вразить свого опонента лазерним променем, то не отримає додаткових очок. Це просто зупиняє опонента на деякий час, даючи змогу супернику зібрати більше яблук.

Якщо агенти не використовуватимуть лазерний промінь, то теоретично вони можуть зібрати рівну кількість яблук. Така поведінка звичніше для “менш розумної” версії DeepMind.

Ці дослідження показали, що вірогідність мирного співіснування двох агентів зменшувалася одночасно з ускладненням мережі.

Чи можуть ШІ працювати разом, а не знищувати один одного?

Дослідження показали, що можуть, лише у разі обопільної вигоди.

У другій грі, Wolfpack, два ШІ-агенти грали як вовки, а третій був здобиччю. У цій грі від агентів вимагалося скооперуватися один з одним, щоб отримати більше очок:

Якщо в першій грі ШІ-агенти вибирали все більш агресивну стратегію, то в другій агенти починали все більше співпрацювати, чекаючи один на одного біля здобичі.

Цей експеримент показав, що в майбутньому, коли наше життя частково або повністю залежатиме від пристроїв із ШІ, вони співпрацюватимуть між собою і з нами тоді, коли це буде вигідно для них. Як це схоже на людей, чи не так?

Джерело: ScienceAlert

Київ, Харків, Одеса, Дніпро, Запоріжжя, Кривий Ріг, Вінниця, Херсон, Черкаси, Житомир, Хмельницький, Чернівці, Рівне, Івано-Франківськ, Кременчук, Тернопіль, Луцьк, Ужгород, Кам'янець-Подільський, Стрий - за статистикою саме з цих міст програмісти найбільше переїжджають працювати до Львова. А Ви розглядаєте relocate?


Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *