Експерименти з управління штучним інтелектом: OpenAI пропонує гранти на $1 мільйон

Як передає Укрінформ, про це повідомляє Reuters.

"Гранти у розмірі $100 000 отримають ті, хто представить переконливі обґрунтування для відповідей на такі питання, як, наприклад, чи повинен ШІ критикувати державних діячів і що вважати "середньостатистичним індивідом" у світі", - йдеться в повідомленні компанії щодо грантів.

Критики кажуть, що такі системи ШІ, як ChatGPT, мають вроджену упередженість. Зокрема, користувачі знайшли приклади расистських або сексистських висновків програмного забезпечення зі штучним інтелектом.

Тож зростає занепокоєння, що ШІ, який працює разом з такими пошуковими системами, як Google і Bing, може переконливо генерувати неправдиву інформацію.

"Системи штучного інтелекту повинні приносити користь всьому людству і бути максимально доступними. Ми запускаємо цю грантову програму, щоб зробити перший крок у цьому напрямку", - йдеться в повідомленні OpenAI.

Компанія заявила, що результати грантів можуть сформувати її власні погляди на управління штучним інтелектом, однак жодні рекомендації не будуть "обов'язковими до виконання".

Гендиректор компанії OpenAI Сем Альтман закликає до регулювання ШІ, випускаючи нові оновлення для ChatGPT і генератора зображень DALL-E. Цього місяця він виступив перед підкомітетом Сенату США, заявивши, що "якщо ця технологія піде не тим шляхом, вона може рухатись абсолютно не туди".

У публікації також зазначається, що майже кожна галузь, зацікавлена в потенціалі ШІ для підвищення ефективності та скорочення витрат на робочу силу, побоюється, що новітня технологія може поширювати дезінформацію або фактичні неточності. Штучний інтелект вже стоїть за кількома широко розповсюдженими підробками. Так, нещодавнє фейкове вірусне зображення вибуху біля Пентагону ненадовго вплинуло на фондовий ринок.

Як повідомляв Укрінформ, представники країн "Групи семи" (G7) зустрінуться наступного тижня, щоб розглянути проблеми, пов'язані з генеративними інструментами штучного інтелекту.