Новий указ Президента Байдена про штучний інтелект: більше обмежень чи стимулювання розвитку

Безвідповідальне використання ШІ може поглибити дискримінацію, упередженість та інші зловживання

Дізнаючись про нові розробки у сфері ШІ, все більше і більше приходить усвідомлення, що це не окремий винахід чи новий застосунок на телефоні, а епохальна зміна взаємодії людини і технології. США тепер є безперечним лідером у технологічному прориві останніх років у цій сфері. Принаймні в тому, що ми знаємо з відкритих джерел. Тому поява перших нормативних документів у цій країні – це надважлива подія. Указ Президента США очікували як прихильники початку обмеження та регулювання штучного інтелекту, так і лідери думок, що агітують за максимальне сприяння розвиткові з боку держави для забезпечення подальшого лідерства й широкого використання в усіх сферах життя.

У документі йдеться про встановлення нових стандартів безпеки ШІ, захист конфіденційності, сприяння справедливості та громадянським правам, гарантування прав споживачів і працівників, сприяння інноваціям і конкуренції.

Документ не починає пряме регулювання сфери, бо ці повноваження не у Президента, а в Конгресу, а дає вказівки державним виконавчим органам щодо дій та розроблень законопроєктів чи прямих регулювань.

Фактично указ Президента США передбачає наймасштабніші дії, які будь-коли вживали у країнах, для захисту від потенційних ризиків систем ШІ, і зокрема:

● вимагає від розробників найпотужніших систем ШІ ділитися результатами тестування безпеки та іншою важливою інформацією з урядом. Наказ вимагатиме, щоб компанії, які розробляють будь-яку базову модель, що становить великий ризик для національної та економічної безпек чи здоров’я, повідомляли федеральному урядові під час навчання моделі та ділилися результатами всіх тестів;

● передбачає розроблення стандартів, інструментів та тестів, щоб переконатися, що системи ШІ безпечні та надійні;

● захищає від ризиків, пов’язаних із використанням штучного інтелекту для розроблення небезпечних біологічних матеріалів і передбачає нові стандарти скринінгу біологічного синтезу;

● захищає американців від шахрайства за допомогою ШІ, встановивши стандарти та найліпші методи виявлення створеного штучним інтелектом контенту та автентифікації офіційного контенту. Мають бути розроблені інструкції щодо автентифікації вмісту та водяні знаки, щоб чітко позначати створений ШІ контент;

● створює розширену програму кібербезпеки для розроблення інструментів ШІ для пошуку та усунення вразливих місць у критично важливому програмному забезпеченні;

● наказує розробити Меморандум про національну безпеку, що забезпечить безпечне, етичне та ефективне використання ШІ військовими та розвідувальною спільнотою США у своїх місіях, а також керуватиме діями протидії використанню штучного інтелекту супротивниками для військових завдань.

Також Президент Байден закликав Конгрес ухвалити закон про конфіденційність даних, щоб захистити всіх американців, особливо дітей, зокрема:

● захистити конфіденційність американців на федеральному рівні;

● посилити дослідження та технології, що гарантуватимуть конфіденційність, наприклад, криптографічні інструменти, через фінансування Мережі координації досліджень для сприяння швидким проривам;

● оцінити, як агенції збирають і використовують комерційно доступну інформацію;

● розробити вказівки для федеральних відомств щодо оцінювання ефективності методів збереження конфіденційності, включно з тими, які використовують в системах ШІ.

Так наголошується, що безвідповідальне використання ШІ може поглибити дискримінацію, упередженість та інші зловживання у сфері правосуддя, охорони здоров’я та житла. Адміністрація Президента вже вжила заходів, опублікувавши проєкт Білля про права щодо ШІ, та наказує агенціям боротися з алгоритмічною дискримінацією, водночас наказуючи органам влади захищати права та безпеку людей. Щоб переконатися, що ШІ сприяє справедливості та громадянським правам, наказ передбачає:

● надання чітких вказівок орендодавцям, федеральним програмам пільг і федеральним підрядникам, щоб уникнути використання алгоритмів ШІ для посилення дискримінації;

● розв’язання проблеми алгоритмічної дискримінації у результаті навчання, технічної допомоги та координації між відомствами щодо найліпших практик для розслідування та судового переслідування порушень громадянських прав, пов’язаних із ШІ;

● забезпечення справедливості у всій системі кримінального правосуддя через розроблення найліпших практик стосовно використання ШІ під час винесення вироків, умовно-дострокового звільнення та умовного засудження, досудового звільнення, тримання під вартою тощо.

Наголошується також, що ШІ може принести реальні переваги споживачам, наприклад, зробивши продукти кращими, дешевшими та більш доступними. Але штучний інтелект також підвищує ризик травмування, введення в оману або іншого заподіяння шкоди. Щоб захистити споживачів і водночас гарантувати, що ШІ може зробити поліпшити захист, наказ передбачає:

● сприяння відповідальному використанню штучного інтелекту в охороні здоров’я та розробленні доступних ліків;

● формування потенціалу ШІ для трансформації освіти через створення ресурсів для підтримки вчителів, які встановлюють освітні інструменти з підтримкою ШІ.

Безперечно, штучний інтелект змінює роботу та робочі місця, пропонуючи як підвищення продуктивності, так і небезпеки посиленого нагляду на робочому місці, упередженості та ін. Щоб пом’якшити ці ризики, наказ передбачає:

● розробити принципи для пом’якшення шкоди та максимізації переваг ШІ для працівників через розв’язання проблеми звільнення; норм праці; справедливості на робочому місці, здоров'я та безпеки; збору даних. Ці принципи надаватимуть рекомендації, що запобігатимуть недооплаті, несправедливому оцінюванню заявок на роботу або перешкоджанню здатності працівників до самоорганізації;

● підготувати звіт про потенційний вплив ШІ на ринок праці, а також вивчити і визначити варіанти посилення федеральної підтримки працівників, які зіткнулися з перебоями в роботі через ШІ. Перші виступи і страйки американці вже відчувають протягом майже пів року. У Каліфорнії пройшли страйки працівників відеовиробництва, зокрема організовані гільдіями акторів, сценаристів та письменників. На всіх конференціях галузі питання ШІ активно обговорювали, зокрема на Щорічних зборах Товариства інженерів кіно і телебачення (SMPTE), на Infinity Festival у Голлівуді та на найбільшій конференції медійної галузі NAB у Нью-Йорку.

США лідирують в інноваціях ШІ: минулого року в країні виникло або було залучено більше стартапів штучного інтелекту, ніж у інших семи країнах, разом узятих. Указ ставить за мету продовження лідерства США в інноваціях за допомогою таких дій:

● каталізація досліджень ШІ за допомогою пілотного проєкту «National AI Research Resource», який надасть дослідникам ШІ та студентам доступ до ключових ресурсів і даних штучного інтелекту, а також розширить гранти на дослідження штучного інтелекту у сферах охорони здоров’я та зміни клімату;

● сприяння чесній, відкритій і конкурентоспроможній екосистемі ШІ, надання доступу невеликим розробникам і підприємцям до технічної допомоги та ресурсів, допомога малим підприємствам у комерціалізації проривів ШІ;

● використання органів влади для розширення можливостей висококваліфікованих іммігрантів і неіммігрантів для навчання, перебування та роботи в США.

Але потрібно пам’ятати, що ми живемо у глобальному ком’юніті, і співпраця з іншими країнами для підтримки безпечного, захищеного та надійного розгортання та використання ШІ по всьому світові є одним із пріоритетів. З цією метою Президент доручив:

● розширити багатосторонню взаємодію для співпраці в галузі ШІ. Створити міжнародні рамки для використання переваг ШІ;

● прискорити розроблення та впровадження життєво важливих стандартів ШІ разом з міжнародними партнерами та організаціями зі стандартизації, гарантуючи, що технологія є безпечною, захищеною та надійною;

● сприяти безпечному, відповідальному і правозахисному розробленню та розгортанню ШІ за кордоном для розв’язання глобальних проблем.

Щоб забезпечити відповідальне впровадження штучного інтелекту та модернізацію федеральної інфраструктури штучного інтелекту, указ передбачає:

● видати вказівки щодо використання ШІ агентствами, зокрема чіткі стандарти для захисту прав і безпеки, поліпшення закупівель ШІ та посилення розгортання ШІ;

● допомогти державним агентствам швидше, дешевше та ефективніше придбати певні продукти та послуги ШІ завдяки швидшому та ефективнішому укладанню контрактів;

● прискорити швидкий найом професіоналів з ШІ в рамках загальнодержавного набору талантів.

Слід розуміти, що розвиток ШІ неможливо обмежити кордонами, тому в цій статті потрібно в загальних рисах розповісти про те, що вже зроблено і в ЄС. У червні 2023 року Європейський парламент ухвалив проєкт Закону про штучний інтелект, який наразі обговорюють стосовно остаточних формулювань з державами-членами ЄС. Заплановано, що остаточна форма закону має бути затверджена до кінця 2023 року.

Закон буде спрямований на спільне впровадження орієнтованого на людину підходу та забезпечення довіри до ШІ, захисту здоров’я, безпеки, основних прав і демократії від його шкідливих наслідків. Закон має гарантувати, що ШІ, яке розробляють та використовують у Європі, повністю відповідає правам і цінностям ЄС, зосібна людський нагляд, безпеку, конфіденційність, прозорість, недискримінацію, а також соціальне та екологічне благополуччя.

Нові правила заборонятимуть:

● системи віддаленої біометричної ідентифікації в режимі реального часу в загальнодоступних місцях;

● «поштові» системи видаленої біометричної ідентифікації, дозволивши це тільки у разі розслідування правоохоронними органами тяжких злочинів і тільки після дозволу суду;

● системи біометричної категоризації, що використовують чутливі характеристики (наприклад, стать, расу, етнічну належність, громадянство, релігію, політичну орієнтацію);

● системи розпізнавання емоцій правоохоронними органами, прикордонному управлінні, на робочих місцях і в освітніх установах;

● нецільове вилучення зображень особи з інтернету або записів з камер відеонагляду для створення бази даних розпізнавання особи.

Постачальникам базових моделей доведеться оцінити та пом’якшити можливі ризики для здоров’я, безпеки, основних прав, навколишнього середовища, демократії та верховенства закону і зареєструвати свої моделі в Базі даних ЄС до їх випуску на ринок ЄС. Генеративні системи штучного інтелекту, засновані на таких моделях, як ChatGPT, повинні будуть відповідати вимогам прозорості (розкривати, що контент був створений штучним інтелектом, а також допомагати відрізняти так звані глибокі фейкові зображення від реальних) і забезпечувати захист від створення незаконного контенту.

Щоб стимулювати інновації в галузі ШІ, депутати Європарламенту додали виключені для дослідницької діяльності компоненти ШІ, надані за ліцензією з відкритим вихідним кодом. Новий закон пропонує так звані нормативні пісочниці або реальні середовища, створені державними органами для тестування ШІ перед його розгортанням. Депутати також хочуть розширити право громадян подавати скарги на системи ШІ і пояснення рішень, заснованих на системах ШІ високого ризику, які істотно впливають на їхні основні права.

Міжнародне співробітництво стосовно ШІ буде розширюватись і продовжуватись, зокрема найбільший інтерес зумовлюють контакти між США та Китаєм. Така зустріч на рівні перших осіб держави відбудеться цього тижня. Ці країни прогнозовано розпочнуть змагання щодо технологічних розробок та їх застосування у всіх сферах, зокрема найбільш чутливих та небезпечних, якими можуть бути військовий сектор, також ядерні технології і зброя масового знищення, розробки у сфері вивчення людини, її можливостей та здоров’я.

Денис Красніков