Технологии
OpenAI въвежда функции за борба с дезинформацията на своите базирани на ИИ технологии
Financial Tribune
От компанията-създател на ChatGPT OpenAI заявиха, че ще въведат инструменти за борба с дезинформацията преди предстоящите изборите в много от държавите по света тази година, предаде АФП.
Взривоопасният успех на текстовия модел, базиран на ИИ - ChatGPT предизвика световна революция в областта на изкуствения интелект, но също така предизвика предупреждения, че подобни инструменти могат да наводнят интернет с дезинформация и да повлияят на избирателите.
Тъй като тази година предстоят избори в редица държави в световен мащаб, сред които САЩ, Индия и Великобритания, от OpenAI заявиха, че няма да позволят произведените от тях технологии - включително ChatGPT и генератора на изображения DALL-E 3 - да бъдат използвани за политически кампании.
„Искаме да сме сигурни, че нашата технология не се използва по начин, който може да подкопае демократичния процес“, заявиха в съобщение от компанията.
„Все още работим, за да разберем колко ефективни могат да бъдат нашите инструменти за персонализирано убеждаване. Докато не разберем повече, няма да позволяваме на хората да създават приложения за политически кампании и лобиране“, добавят експертите от OpenAI.
Лавинообразното разработване на технологии базирани на изкуствен интелект създаде опасения за опасност от масова дезинформация в глобален мащаб, като това според доклад на Световния икономически форум, може да компрометира изборите и да подкопае новоизбраните правителства в големите икономики.
Опасенията за предизборна дезинформация започнаха преди години, но публичната достъпност на мощни, базирани на ИИ текстови модели и генератори на изображения с изкуствен интелект засилиха заплахата, казват експертите, особено ако потребителите не могат лесно да разберат дали съдържанието, което виждат, е манипулирано и фалшиво.
OpenAI съобщи, че работи по инструменти, които ще прикрепят надеждна атрибуция към текста, генериран от ChatGPT, а също така ще дадат на потребителите възможност да открият дали дадено изображение е създадено с помощта на DALL-E 3.
„В началото на тази година ще приложим цифровите удостоверения на Коалицията (C2PA) за доказателство и автентичност на съдържанието - подход, който кодира подробности за произхода на съдържанието с помощта на криптография“, добавят от компанията.
Коалицията, известна още като C2PA, има за цел да подобри методите за идентифициране и проследяване на цифрово съдържание. Сред членовете ѝ са Microsoft, Sony, Adobe и японските фирми за обработка на изображения Nikon и Canon.
OpenAI съобщи, че ChatGPT ще насочва потребителите към авторитетни уебсайтове, когато им бъдат зададени процедурни въпроси за изборите в САЩ, като например къде да гласуват.
„Поуките от тази работа ще послужат като основа за нашия подход и в други държави и региони“, пише в съобщението на OpenAI.
От компанията добавят, че DALL-E 3 има „предпазни огради“, които не позволяват на потребителите да генерират изображения на реални хора, в това число политици и кандидати.
Изявлението на OpenAI следва стъпките, които предприеха още миналата година от американските технологични гиганти Google и Meta, за ограничаване на намесата в изборите, особено чрез използването на изкуствен интелект.
