Технологии
ROOST ще създава инструменти за безопасност за ИИ
Financial Tribune
Няколко големи технологични играчи от бизнеса, академичните среди и гражданското общество заявиха, че стартират фондация за осигуряване на инструменти за безопасност на изкуствения интелект (ИИ) в рамките на срещата на върха в Париж, посветена на тази технология.
Инициативата Robust Open Online Safety Tools (ROOST) ще изгради „мащабна, оперативно съвместима инфраструктура за безопасност, подходяща за ерата на изкуствения интелект“, се казва в изявлението, подкрепено от тежката организация в сектора OpenAI, бившия шеф на Google Ерик Шмидт и огромната платформа за игри Roblox.
ROOST ще „преодолее важна празнина в областта на цифровата безопасност - особено безопасността на децата онлайн - като предостави безплатни инструменти за безопасност с отворен код на публични и частни организации от всякакъв мащаб по целия свят“, се казва още в съобщението.
Политици и лидери от технологичната индустрия от цял свят се срещат в Париж, за да обсъдят как най-добре да се справят с появата на изкуствения интелект.
Разработването на софтуер с отворен код, при което създателите на софтуер споделят вътрешните механизми на своите системи свободно с други хора, за да си сътрудничат, е един от предложените начини за повишаване на доверието в новата технология.
Приносът на ROOST ще включва „безплатни, отворени и лесни за използване инструменти за откриване, преглед и докладване на материали, съдържащи сексуално насилие над деца (CSAM)“, се казва в изявлението, предадено от АФП.
Фондацията, базирана в Колумбийския университет в Ню Йорк, ще използва и големи езикови модели (LLM), задвижвани от изкуствен интелект, „за да захранва инфраструктурата за безопасност“, се казва в него.
ROOST заяви, че е набрала финансиране в размер на 27 млн. долара, което ще покрие „първите четири години от дейността ѝ“, като донорите включват „редица филантропии и водещи технологични компании“.
