У Meta визнали «галюцинації» штучного інтелекту після замаху на Трампа
Про це повідомляє DW, передає Укрінформ.
Після замаху на Дональда Трампа користувачі почали запитувати чат-бот про стрілянину, однак той відповідав довгими довідками про минуле і заперечував, що на експрезидента США скоювали замах. Крім того, фотографію Трампа після замаху з піднятим догори кулаком у Facebook та Instagram позначали як підроблену.
Віцепрезидент Facebook із глобальної політики Джоель Каплан пояснив це «галюцинаціями» ШІ і запевнив, що в цій помилці не було «злого наміру».
Як пояснив Каплан, чат-бот обробляє величезний масив даних, накопичених за багато років, і тому йому важко працювати з терміновими новинами. Тому керівництво Meta спочатку взагалі заборонило чат-боту говорити про замах на Трампа. Потім заборону було знято, але чат-бот деякий час продовжував мовчати або заперечувати факт стрілянини.
«У невеликій кількості випадків Meta AI продовжував давати неправильні відповіді, іноді стверджуючи, що події не було, - над цим ми вже зараз працюємо. Ці типи відповідей називаються галюцинаціями, це проблема всієї галузі, ми бачимо її в усіх системах ШІ-генерації. Це проблема того, як ШІ обробляє події реального часу, які перебувають у розвитку, і яка зберігається. Як і всі інші системи ШІ-генерації, моделі можуть видавати неточні або недоречні дані», - заявив він.
Проблеми з фотографією Трампа, на якій він одразу після замаху позує з піднятим догори кулаком, Каплан пояснив тим, що в інтернеті зловмисники запустили фейковий знімок, домалювавши посмішки співробітникам Секретної служби США. Meta позначила його як підроблений. Але ШІ став блокувати всі схожі кадри, зокрема й оригінальний.
Як повідомляв Укрінформ, 13 липня під час виборчого мітингу Трампа у Батлері (штат Пенсильванія) сталася стрілянина. Трамп зазнав незначного поранення — куля зачепила вухо. Стрільця ліквідував снайпер Секретної служби.
Безкоштовний помічник зі штучним інтелектом Meta AI від компанії Meta Platforms запрацював на платформах соціальних мереж WhatsApp, Instagram, Facebook і Messenger.
