Технологии
ЕП гласува за ограничения за ChatGPT и други технологии с ИИ
Financial Tribune
Евродепутатите ще проведат решаващо гласуване за определяне на ограничения за използването на изкуствен интелект като ChatGPT в Европейския съюз, предаде АФП.
Комисиите на Европейския парламент ще изложат позицията си за предстоящите преговори с държавите членки на ЕС, които имат за цел да създадат закон, който да предотвратява злоупотребите с начина, по който се използва изкуственият интелект, като същевременно дава възможност за иновации.
ЕС иска да бъде глобален пионер в регулирането на технологията, която разпали обществения и корпоративния интерес през последните няколко месеца.
Всъщност движението на Брюксел към тази цел започна преди две години с предложение на Европейската комисия. В края на миналата година държавите-членки на ЕС излязоха със своя позиция за преговори.
Но появата оттогава на ChatGPT, Midjourney и други приложения с изкуствен интелект насочи значително вниманието на парламента към въпроса, което доведе до лавина от изменения, които трябва да бъдат разгледани.
След като се проведе гласуването в комисиите, целият Европейски парламент ще се произнесе с гласуване в пленарна зала следващия месец.
„Смятам, че предлагаме много добър и балансиран текст“, който защитава хората и същевременно дава възможност за иновации, заяви Брандо Бенифеи, един от водещите членове на ЕП по текста, който ще бъде гласуван днес.
Нож с две остриета
Макар че изкуственият интелект е обещаващ, той е и нож с две остриета като технологичен инструмент. Той би могъл да спаси човешки живот, например чрез усъвършенстване на медицинските оценки, или да бъде използван от авторитарни режими за усъвършенстване на масовото наблюдение.
За широката общественост появата на ChatGPT в края на миналата година беше източник на любопитство и очарование, като потребителите се регистрираха, за да наблюдават как той пише есета, стихотворения или извършва преводи в рамките на секунди.
ИИ за създаване на изображения като Midjourney и DALL-E също предизвикаха онлайн надпревара за създаване на двойници на Ван Гог или на папа в пухкаво яке, а сайтовете за музика с ИИ впечатлиха със способността си да създават дори пеене, подобно на човешкото.
Неблагоприятно е обаче, че технологията носи голям потенциал за фалшифициране, за заблуждаване на хората и повлияване на общественото мнение.
Това подтикна Елон Мъск и някои изследователи да призоват за мораториум, докато правните рамки не наваксат.
Позицията на Европейския парламент следва основните насоки, заложени в предложението на Комисията, което се основава на съществуващите закони на ЕС за безопасност на продуктите, които възлагат тежестта на проверките върху производителите.
Същността на подхода на ЕС се състои в това да има списък с "високорискови" дейности за изкуствения интелект.
Комисията предлага посочването да обхваща системи в чувствителни области като критичната инфраструктура, образованието, човешките ресурси, обществения ред и управлението на миграцията.
Някои от предложените правила за тази категория ще гарантират човешкия контрол върху ИИ, осигуряването на техническа документация и наличието на система за управление на риска.
Всяка държава-членка на ЕС ще има надзорен орган, който ще следи за спазването на правилата.
Много членове на ЕП обаче искат да ограничат критериите за това какво представлява „висок риск“, така че да обхващат само приложения на ИИ, за които се счита, че застрашават безопасността, здравето или основните права. Други, като например групата на Зелените, се противопоставят на това.
Що се отнася до генеративния ИИ, като ChatGPT, Парламентът разглежда специфичен набор от задължения, подобни на тези, прилагани към списъка с „висок риск“.
Членовете на ЕП искат също така компаниите за ИИ да въведат защита срещу незаконно съдържание и срещу произведения, защитени с авторски права, които могат да бъдат използвани за обучение на техните алгоритми.
Предложението на Комисията вече призовава потребителите да бъдат уведомявани, когато са в контакт с машина, и изисква приложенията за създаване на изображения да посочват, че резултатите от тях са създадени изкуствено.
Категоричните забрани ще бъдат редки и ще се отнасят само за приложения, които противоречат на ценностите, скъпи на Европа - например за системите за масово наблюдение и за оценка на гражданите, използвани в Китай.
Евродепутатите искат да добавят забрани за разпознаване на емоции от изкуствен интелект и да премахнат изключенията, които биха позволили на правоприлагащите органи да извършват дистанционна биометрична идентификация на хора на обществени места.
Те искат също така да се предотврати извличането на снимки, публикувани в интернет, за обучение на алгоритми, освен ако не е получено разрешение от съответните хора
