Незрозуміло, але дуже цікаво: регулювання ШІ не стає яснішим для IT-компаній

Бум ШІ-галузі вразив законодавців: тепер країни змагаються в ухваленні нових правил регулювання штучного інтелекту. Парадигма жорсткого контролю над індустрією не подобається розробникам, які побоюються уповільнення інновацій. На щастя для техногігантів, уряди не поспішають конкретизувати свої вимоги – і у творців ШІ-систем залишається простір для маневру.

Новий указ президента США про штучний інтелект став першим всеосяжним документом, який регулює технологічну сферу. Адміністрація Білого дому протягом багатьох місяців узгоджувала текст указу, Байден кілька разів зустрічався з главами технокомпаній. Документ містить вісім положень, на яких пропонується засновувати всі наступні правила регулювання індустрії.

Йдеться про нові стандарти безпеки ШІ-систем, зокрема обов’язок розробників тестувати свої моделі перед їхнім публічним релізом і ділитися результатами тестів з урядом. Також указ вимагає створення єдиних принципів використання ШІ для федеральних відомств. Документ звертає увагу на захист користувачів і споживачів, дотримання їхніх цивільних прав. Зрештою, нові правила мають захистити працівників від експансії нових технологій і стимулювати інновації та конкуренцію в галузі.

Попри гучні слова про прорив у регулюванні ШІ указ Байдена не є сталим законом і діятиме протягом терміну його повноважень. Тому Білий дім поспішає розробити всеосяжний постійний документ, який конкретизує положення указу та закріпить позицію адміністрації Байдена на законодавчому рівні. Про прискорення процесу говорять і в Сенаті, де у демократів упевнена більшість голосів.

Іншим напрямком стали міжнародні переговори про глобальне регулювання ШІ. Запущений «Великою сімкою» так званий «Хіросімський процес ШІ» – форум про перспективи розвитку технології – призвів до створення двох основоположних документів: «Угоди про міжнародні керівні принципи ШІ» і «Добровільного кодексу поведінки розробників ШІ». У тексті документів перераховано 11 принципів, якими мають керуватися розробники під час створення ШІ-систем.

Хоча правила вважаються добровільними, його рекомендують застосовувати до передових ШІ-розробок, зокрема базових моделей і генеративних систем. Компанії, які ухвалили кодекс, мають виявляти і зменшувати ризики під час використання ШІ, боротися з неправомірним використанням технології, публікувати звіти про можливості та ризики, а також інвестувати в заходи безпеки.

У дискусії про майбутнє регулювання несподівано бурхливу участь взяв прем’єр-міністр Великої Британії Ріші Сунак. Очільник британського уряду навіть скликав власний саміт з безпеки ШІ. Форум зібрав близько ста політиків, науковців і представників найбільших розробників технології. Експерти відзначили присутність на заході представників Китаю, який раніше ігнорував західні ініціативи в цьому напрямку.

Головним досягненням саміту стало ухвалення так званої “Декларації Блетчлі” – її підписали 28 країн, зокрема провідні розробники ШІ – США і Китай, а також Європейський Союз. У документі прописано кроки з виявлення та наукового вивчення ризиків, пов’язаних із технологією. Також автори декларації пропонують стратегію для міжнародної політики щодо зниження цих ризиків.

Однак у бурхливої законотворчої діяльності, що розгорнулася в різних країнах, є і безліч критиків. Вони вказують на кілька слабких місць, які мають подібні ініціативи. Наприклад, досі не вироблено єдиної стратегії регулювання приватних розробок. Указ Байдена може напряму застосовуватися до федеральних відомств, однак для контролю необхідний цілий закон. Тут не обійтися без Конгресу, в якому традиційно сильне лобі технологічних компаній. І вони обов’язково перешкоджатимуть обмеженням.

Надмірного контролю побоюються і самі автори документів. Швидкі ініціативи без ґрунтовного обговорення можуть обмежити інновації та розвиток усієї галузі. Важливу роль відіграють геополітичні інтереси: санкційна війна між США і Китаєм показує, що кожен дбає про власну першість у галузі. Це призводить до купи санкцій, від яких насамперед страждають розробники ШІ.

Нарешті, головний аргумент противників концепції регулювання – це неясні правила. Ухвалені документи дають слабке уявлення про те, як працюватиме цей механізм. Замість конкретних вимог фігурують лише обтічні формулювання і красиві заяви, звідси незрозуміла частка відповідальності компаній за ризики і способи їх покарання. До того ж, уряди просто не мають такої кількості висококваліфікованих спеціалістів, які могли б адекватно оцінити розробки – всі провідні професіонали задіяні у приватному секторі та не горять бажанням ставати урядовцями і втрачати кар’єрні можливості.

В умовах такої регуляторної плутанини розробники намагаються зайняти прибуткову нішу і поспішають випустити нові ШІ-системи – конкуренція зростає. Ще на початку року Ілон Маск разом із понад 1000 експертів закликав призупинити на пів року навчання штучного інтелекту потужнішого, ніж модель GPT-4 компанії OpenAI. Фахівці попереджали, що без незалежної оцінки загальних протоколів безпеки нова технологія може загрожувати майбутньому людства.

Однак науковці не знали, що перед публікацією листа Маск створив власну компанію з розробки ШІ – стартап xAI. Незважаючи на заклик запровадити мораторій, бізнесмен почав переманювати фахівців із конкуруючих компаній. Результатом цієї двозначної діяльності став новий чат-бот Grok, який навчений на користувацьких даних соцмережі X. Маск заявив, що «систему Grok від xAI створено так, щоб у її відповідях було трохи гумору», а чат-бот «любить сарказм і заснований на сарказмі».

Лояльність розробників до ідеї регулювання галузі закінчується там, де починається обмеження їхнього прибутку. Усі розуміють, що першість у розробках нової технології дасть власнику інноваційної ШІ-системи величезну економічну перевагу над конкурентами. Тому технологічні компанії не поспішають розкривати подробиці навчання своїх моделей, а відсутність конкретики в перших документах, що регулюють галузь, їм тільки на руку.

Наступний саміт із безпеки ШІ заплановано на весну 2024 року, захід відбудеться в Південній Кореї. Поспішність західних країн у розробці нових правил ШІ може вийти боком для самих урядів: технологія стрімко змінюється щомісяця, і вироблені концепції можуть застаріти вже до наступного форуму. Приклад Європейського Союзу показовий: Єврокомісія розробила законопроєкт про ШІ до буму генеративних ШІ-інструментів, і з появою чат-бота ChatGPT і його аналогів документ довелося переписувати. Вийшло не дуже – його досі не можуть ухвалити.