Google розробляє "кнопку" для відключення "найбільшої загрози людству"
Про це повідомляє Naked Science.
Ця новина, розтиражована журналістами у червні 2016 року, підлила масла у вогонь неспокою за майбутні взаємини роботів і людей.
За інформацією журналістів, для цього фахівці підрозділу Google – компанії Deep Mind – об'єдналися з вченими з Оксфордського університету. На дослідження виділено 400 млн британських фунтів. «Якщо агент (AI) працює у режимі реального часу під контролем людини, оператору необхідна велика червона кнопка, яку можна натиснути, щоб запобігти небажаним діям з боку агента», – пояснюють інтернет-видання.
Раніше, дійсно, в Мережу було викладено документ, під заголовком «Безпечно прерываемые агенти» (Safely Interruptible Agents). Його автори – Лорен Орсо з Deep Mind і Стюарт Армстронг з Оксфордського університету. У документі описується можливе майбутнє сусідство людей зі штучним інтелектом, що протистоять бажанням та прагненням людства на зразок фантастичних Скайнета і Термінатора. Це не здається божевільним з урахуванням того, що не так давно найстаріша і найбільша американська юридична компанія Baker & Hostetler «найняла» робота-адвоката для допомоги у процесах. Штучний інтелект підтримується суперкомп'ютером IBM Watson.
Причому говорять про цю тривогу саме головні адепти науково-технічного прогресу. Наприклад, Ілон Маск, який заявив у серпні 2014 року про те, що технологія штучного інтелекту «небезпечніше, ніж ядерна зброя». А ще через кілька місяців, виступаючи перед студентами Массачусетського технологічного університету, творець Tesla і SpaceX назвав AI «найбільшою загрозою нашому існуванню». При цьому до кінця 2015 року сам Маск став співзасновником некомерційної дослідницької компанії OpenAI, пояснивши її мету необхідністю відкритості процесу створення штучного інтелекту. «Якщо у вас є "кнопка", яка може робити погані речі в світі, ви не захочете дати спільний доступ до неї», – пояснив Маск.
В кінці травня 2016 року, виступаючи на щорічній конференції Recode, Ілон Маск розповів про якийсь проект, або, може бути, поки що просто ідею «нейронного мережива», яке повинно знизити ризик людства стати улюбленою іграшкою в залізних руках роботів. «Наприклад, у вас є лімбічна система, кора мозку, а це третя система – цифровий шар, який добре сумісний із вашим організмом. Як мозок працює в симбіозі з лімбічної системою, так і цей цифровий шар буде злагоджено працювати з іншими частинами тіла», – сказав Маск. Ця нейронна система повинна підвищити рівень прийому-передачі інформації людиною, здатність її обробляти.
Втім, є і протилежна точка зору. Голова ради директорів компанії Alphabet (Google Ерік Шмідт в інтерв'ю Tech Insider скептично оцінив виступи як Маска, так і його колеги Стівена Хокінга, який також раніше попереджав про можливу гегемонію AI.
За період з 2011-го по 2015-й рік світові компанії вклали в дослідження AI більше трьох мільярдів доларів. Крім великих інвесторів, включаючи Facebook і Google, є ще і ряд менш відомих стартапів. Приміром, Brighterion займається використанням штучного інтелекту у «хмарному» аналізі та промисловому IoT, Feedzai тренує роботів для виявлення шахрайства в банківських операціях, Experfy з допомогою AI ефективно вирішує бізнес-проблеми комерсантів і так далі. Тобто масштаб розвитку штучного інтелекту в світі зараз не обмежується десятком головних гравців IT-ринку – він набагато більше.
Побоювання насправді не безпідставні. Китайські вчені, які представили в кінці 2015 року проект «фабрики клонів», пізніше заявили про готовність клонувати людей. Найбільше у світі підприємство з клонування китайська компанія Boyalife Group побудує спільно з південнокорейською Sooam Biotech Research Foundation і китайською Академією наук на півночі Китаю у Тяньцзіні. Обсяг виробництва клонованих корів, за розрахунками вчених, до 2020 року становитиме один мільйон на рік.
