Технологии
OpenAI ще добавя водни знаци за текстовете на ChatGPT в ЕС
Технологията ще носи името textGrain, тя е свързана с изискването на Законодателния акт за ИИ на общността
Financial Tribune
OpenAI ще започне да добавя невидими водни знаци към текстовете, генерирани от ChatGPT и Codex, в Европейския съюз през следващите седмици, съобщи компанията.
Мярката е свързана с изискването на Законодателния акт за изкуствения интелект на ЕС доставчиците на генеративни системи с изкуствен интелект да обозначават генерирания от тях текст в машинночетим формат.
OpenAI съобщи, че технологията ѝ, наречена textGrain, вгражда невидим статистически сигнал в думите, подбирани от моделите ѝ. След това специален детектор може да търси този сигнал, за да установи дали даден текст съдържа воден знак от OpenAI.
Компанията предупреди, че технологиите за поставяне и откриване на водни знаци в текстове все още са на ранен етап и имат съществени ограничения.
По-кратките текстове се разпознават по-трудно, докато редактирането, перифразирането или преводът могат да отслабят водния знак.
OpenAI също подчерта, че откриването на воден знак не доказва, че даден текст е изцяло генериран от изкуствен интелект, както и че липсата на воден знак не доказва, че текстът е написан от човек.
Компанията започва да приема заявки за достъп до своя детектор за водни знаци, като първоначално той ще бъде достъпен само за одобрени изследователи и експертни организации.
OpenAI заяви, че поетапното въвеждане на технологията отразява както изискванията на Законодателния акт за изкуствения интелект на ЕС, така и ограниченията на съвременните технологии за поставяне на водни знаци.
