Технологии
Доклад: Разработване на по-мощен ИИ може да има „вредни“ последици
Financial Tribune
Трескавата надпревара на технологичните гиганти за разработване на все по-мощен изкуствен интелект (ИИ) може да има „вредни“ последици, предупреди водещият изследовател Йошуа Бенгио. Учените отбелязаха началото на световната среща на върха по тази технология в Париж.
Компютърният учен и носител на престижната награда „Тюринг“ за 2018 г. представи първия по рода си Международен доклад за безопасността на изкуствения интелект, съставен под негово ръководство, в парижкия университет ENS.
Бенгио посочи рискове, свързани с ИИ, които вече са широко признати, като например използването му за създаване на фалшиво или подвеждащо съдържание онлайн.
Но професорът от Университета в Монреал добави, че „непрекъснато се появяват доказателства за допълнителни рискове, като биологични атаки или кибератаки“.
В по-дългосрочен план той се опасява от възможна „загуба на контрол“ от страна на хората върху системите с изкуствен интелект, които могат да бъдат мотивирани от „собствената си воля за оцеляване“.
Появата през миналия месец на евтиния и високопроизводителен китайски модел на ИИ DeepSeek „ускори надпреварата, което не е добре за безопасността“, добави Бенгио.
Той призова за по-строга международна регулация и по-обширни изследвания на безопасността на ИИ, която засега представлява „малка част“ от огромните инвестиции, които се правят в сектора.
„Без правителствена намеса не знам как ще се справим с това“, каза Бенгио.
Засега все още водеща страна в света по отношение на ИИ, след встъпването в длъжност на Доналд Тръмп САЩ се отказаха от опита на бившия президент Джо Байдън да наложи някои правила за развитие.
Когато преди две години ChatGPT на OpenAI изгря на обществената сцена, „почувствах спешността да се замисля по този въпрос за безопасността“, каза Бенгио, докато представяше доклада - разработен така, че да съответства на вече познатите документи от Междуправителствената експертна група по изменение на климата (IPCC).
„Това, което ме плаши най-много, е възможността човечеството да изчезне в рамките на 10 години. Това е ужасяващо. Не знам защо повече хора не го осъзнават“, каза той.
Около 100 експерти от 30 държави, Организацията на обединените нации, Европейския съюз и ОИСР допринесоха за изготвянето на ръководения от Бенгио доклад, публикуван в края на януари.
Работата по него беше стартирана на предишна среща на високо равнище по въпросите на безопасността на ИИ във Великобритания през ноември 2023 г.
