Парламентарі ЄС переважною більшістю голосів ухвалили ранню редакцію законопроєкту «AI Act», що передбачає обмеження у використанні генеративних нейромереж. Фінальна версія документа, ймовірно, дещо відрізнятиметься від теперішньої редакції.

Авторка: Тейт Раян-Мослі

Ілюстрація: wolfhf і DALL-E

Європейський парламент ухвалив ранню редакцію «AI Act» — законопроєкту про регуляцію нейромережевих інструментів. Примітно, що того ж дня європейські законодавці подали проти Google антимонопольний позов. «AI Act» вважається одним із найважливіших у світі кроків у галузі регулювання ШІ.

Роберта Мецола, голова Європейського парламенту, заявила: «Поза сумнівом, цей законопроєкт задаватиме глобальний стандарт на роки вперед». Звісно, європейська бюрократія може затягнутися надовго — «AI Act», імовірно, нескоро втілять у життя, проте деякі положення з майбутнього закону вже окреслені у чорновому варіанті.

1. Заборона для ШІ розпізнавати емоції

Чернетка тексту від Європейського парламенту передбачає, що нейромережам заборонять розпізнавати емоції людей для стеження, у школах та на робочих місцях. Проти цього кроку вочевидь виступають творці ШІ-програм для розпізнавання емоцій. Вони стверджують, що їхній софт допомагає, наприклад, виявляти за виразом обличчя студентів, які не можуть засвоїти матеріал, або, скажімо, вчасно визначити, що водій засинає за кермом.

2. Заборона на відстеження біометричних даних у реальному часі

Цей пункт, мабуть, буде супроводжуватися найбільш запеклими баталіями законодавців. Адже правоохоронці по всьому ЄС не в захваті від того, що може бути впроваджена заборона на відстеження біометричних даних громадян у реальному часі. Деякі країни Європейського Союзу, як-от Франція, навпаки планують посилити цифрові засоби стеження за населенням.

3. Заборона «соціальних очок»

Державні та приватні установи не матимуть права користуватися даними про соціальну поведінку людини з метою створення узагальненого дата-портрета. Не обов’язково мова йде про горезвісні соціальні кредити як у Китаї. Інформація про соціальну поведінку громадян повсюдно використовується перед видачею кредитів, найманням на роботу чи навіть підбором реклами в інтернеті.

4. Обмеження генеративного ШІ

Чернетка законопроєкту «AI Act» пропонує заборонити нейромережам збирати для навчання й обробки дані, захищені авторським правом. OpenAI, наприклад, і так має негаразди з європейськими законодавцями через випадки порушення інтелектуальної власності. За новими правилами, захищений контент має бути завжди позначеним як такий, навіть після видозмінення. Лобісти техіндустрії чимдуж борються з цим нововведенням.

5. Нові обмеження для алгоритмів соцмереж

Алгоритми, які добирають рекомендований контент, часто наражаються на заслужену критику від правозахисників. Низка витоків особистих даних, що сталася через незахищені рекламні профілі в соцмережах, теж додала недовіри аудиторії. Якщо в ЄС ухвалять нові правила збору даних, технологічні компанії нестимуть значно більше відповідальності за будь-яку інформацію користувачів, яку вони зберігають.

Розвиток ШІ несе людству серйозні ризики, як-от дезінформація, вразливість цифрових систем, маніпуляції суспільством, масове стеження. Марґріт Вестагер, виконавча віцепрезидентка Єврокомісії, наголошує: «Якщо ми опинимося в ситуації, коли ні у що не можна вірити, значить, ми цілком підвели суспільство».

Оригінал статті: Five big takeaways from Europe’s AI Act