Използването на системи за лицево разпознаване за наблюдение или алгоритми, които вземат важни решения за хората, ще бъде забранено съгласно предложени нови регламенти на ЕС относно изкуствения интелект. Предложенията, които станаха обществено достояние преди официалното им публикуване, обещават и строги нови правила за това, което се нарича "високорисков AI". Това включва алгоритми, използвани от полицията и от организации при набиране на персонал, предава technews.bg.

Проектът за новата норма се явява нещо като трети, "среден" път между принципа на абсолютно свободния пазар, както се практикува в САЩ, и абсолютно авторитарния подход, какъвто е налице в Китай. Очаква се оформянето, гласуването и въвеждането в действие на новата норма да бъде трудно, изпълнено с противоречия.

Според предложението, по отношение на високорисковите AI системи държавите-членки ще трябва да прилагат много по-голям надзор, включително назначаване на органи за оценка, които да тестват, сертифицират и инспектират тези системи.

Примерите за високорискови AI включват:

  • системи, които определят приоритет при изпращане на спешни служби;
  • системи, определящи достъпа до или назначаването на хора в образователни институции;
  • алгоритми за набиране на персонал;
  • алгоритми, които оценяват кредитоспособността;
  • системи за извършване на индивидуални оценки на риска;
  • алгоритми за прогнозиране на престъпления.

На практика новата регулация ще засегне всички системи, свързани с охранително видеонаблюдение на публични места, училища, болници, полицейски служби и др.

Освен че изисква новите системи за изкуствен интелект да имат човешки надзор, ЕК предлага също така системите с висок риск да имат така наречения ключ за убиване, който може да бъде или бутон за спиране, или някаква друга процедура за незабавно изключване на системата, ако е необходимо.

Компаниите, които не се съобразят с новите изисквания, ще бъдат санкционирани. Те могат да бъдат глобени с до 4% от своите глобални приходи - подобно на глобите при GDPR.

Наред с всичко останало, новата норма категорично забранява практиката на определяне на "социален рейтинг" при AI приложения - явление, което се практикува в Китай и което вече носи лоша слава на AI системите в страната.

"За нас, на европейско ниво, е важно да предадем много силно послание и да определим стандартите по отношение на това докъде трябва да се стигне с тези технологии", коментира Драгош Тудораче, либерален член на Европейския парламент и ръководител на комисията по изкуствен разум. "Поставянето на регулаторна рамка за това е задължително и е добре Европейската комисия да поеме в тази посока".

Европейският политически анализатор Даниел Льофер от Access Now също е оптимистично настроен като цяло. Той казва, че Европа отдавна търси "трети" път, който да намери златната среда между опита на САЩ и Китай. В този смисъл новото законодателство е "обещаващо".

Но, според Льофер, има доста "червени флагчета". Едно от тях е например създаването на Европейски съвет за изкуствен интелект.

"Те ще имат огромно влияние върху това, което се добавя или изважда от високорисковия списък и от списъка на забраните", казва той. С други думи, особено важно ще е точно кой седи в съвета.

Льофер написа в Twitter, че определенията в проектозакона са твърде отворени за тълкуване. Той добави, че предложенията трябва да бъдат "разширени, за да включат всички системи за изкуствен интелект в публичния сектор, независимо от определеното им ниво на риск", защото общуването с държавната администрация е неизбежно за хората. "Хората обикновено нямат избор дали да взаимодействат със система за AI в публичния сектор", каза Льофер.

Европейският център за нестопанско право, който допринесе за Бялата книга на Европейската комисия за изкуствения интелект, заяви пред BBC, че в предложеното законодателство има "много неясноти и вратички". Подходът на ЕС за дефиниране на бинарни данни с висок спрямо нисък риск е небрежен в най-добрия случай и опасен в най-лошия, тъй като му липсват контекст и нюанси, необходими за сложната екосистема на AI, която съществува вече днес.

В известен смисъл новината не е изненада, коментираха анализатори, тъй като президентът на Европейската комисия Урсула фон дер Лайен обеща спешно да въведе законодателство за AI, още когато беше избрана през 2019 г. Но Лилиан Едуардс - експерт от от Университета в Нюкасъл - казва, че проектозаконът неизбежно ще засегне технологичната индустрия. "Приветствам амбицията, но не можете да си мислите, че ще мине в този си вид", казва тя.

Едуардс сравнява подхода с начина, по който ЕС регулира потребителските продукти, които трябва да отговарят на определени изисквания, за да бъдат внесени. "Това е много по-трудно да се направи с изкуствения интелект, тъй като AI не винаги е прост продукт", казва тя. "Неумолимо се насочвате към търговска война със Силициевата долина или слабото правоприлагане".