Анализи
„Кръстникът на AI", д-р Хинтън: Съжалявам за работата си в сферата на изкуствения интелект
Financial Tribune
Джефри Хинтън, смятан за кръстник на изкуствения интелект, напусна работа, предупреждавайки за нарастващите опасности, свързани с развитието на тази технологична област, съобщи „Ню Йорк Таймс“.
75-годишният специалист се оттегли от Googlе преди няколко седмици, а сега сподели пред „Ню Йорк Таймс“, че съжалява за работата си в сферата на изкуствения интелект.
Пионерските изследвания на д-р Хинтън в областта на невронните мрежи и задълбоченото им изучаване проправиха пътя на настоящите системи за изкуствен интелект като ChatGPT.
В изкуствения интелект невронните мрежи са системи, които са подобни на човешкия мозък по начина, по който учат и обработват информация. Те дават възможност на ИИ да се учи от опита си, както би го направил човек. Това се нарича задълбочено изучаване.
Британско-канадският когнитивен психолог и компютърен учен заяви, че чатботът скоро може да надмине нивото на информация, което притежава човешкият мозък.
Пред BBC Хинтън бе категоричен, че някои от опасностите, свързани с чатботовете с изкуствен интелект, са „доста плашещи“.
„В момента те не са по-интелигентни от нас, доколкото мога да кажа. Но мисля, че скоро биха могли да станат.“
Д-р Хинтън също призна, че възрастта му е била причината да напусне Google.
„Аз съм на 75 години, така че е време да се пенсионирам“, коментира изследователят.
Д-р Хинтън подчертава, че няма причина да критикува Google, тъй като технологичният гигант е бил „много отговорен“ що се касае до разработването на този вид технологии, но това не отменя фактът, че съществуват редица заплашителни рискове за човечестявото, които биха могли да произтекат от неправилното управление на тези системи и AI.
„Точно сега виждаме, че технологии като GPT-4 ни засенчват по количеството общи знания, които имат, и то с много голяма разлика. По отношение на разсъжденията чатботът не е толкова добър, но вече може да прави прости разсъждения“, допълва д-р Хинтън.
„Като се има предвид скоростта и напредъка на тази технология, очаквам уменията и знанията на чатботът, захранван от AI да бъдат надградени доста бързо. Именно за това трябва да се тревожим.“
Хинтън отбеляза, че се тревожи от „лоши субекти“, които биха се опитали да използват изкуствения интелект за „лоши цели“.
„Можете да си представите, как някой субект с лоши намерения, като руския президент Владимир Путин реши да даде на роботите възможност да създават свои собствени подцели.“
„Това е просто най-лошият сценарий, нещо като кошмарен сценарий“, уточни той.
„Стигнах до заключението, че видът интелект, който развиваме, е много различен от този, който имаме“, добавя Хинтън.
„Ние сме биологични системи, а те са цифрови системи. И голямата разлика е, че при цифровите системи имате много копия на един и същ набор от величини, на един и същ модел на света.“, заяви той.
„И всички тези копия могат да се учат поотделно, но споделят знанията си незабавно. Така че е все едно да имате 10 000 души и когато един човек научи нещо, всички автоматично да го знаят. И ето как тези чатботове могат да знаят много повече от всеки един човек“, посочи ученият.
Мат Клифърд, председател на британската Агенция за съвременни изследвания и изобретения, който говори в лично качество, заяви, че думите на Хинтън „подчертават скоростта, с която се увеличават възможностите на изкуствения интелект“.
„Тази технология има огромни перспективи, но е от съществено значение светът да инвестира сериозно и спешно в безопасността и контрола на ИИ“, каза той.
Подобно мнение наскоро споделиха в свое предупредително отворено писмо технологични лидери и изследователи с призив за мораториум върху разработването на най-мощните системи с ИИ. Сред тях бяха Илон Мъск, Ювал Харари и Стив Возняк, които подчертаха, че генеративният AI - технологията зад ChatGPT е възможно да се превърне в инструмент за дезинформация.
Според редица други изследователи и анализатори технологията представлява риск за работните места. А най-големите притеснения са, че може да представлява риск за човечеството.
В свое изявление главният учен на Google Джеф Дийн заяви, че в момента компанията работи по въпроса за „отговорния подход към изкуствения интелект“, като допълни, че „Непрекъснато се учим, за да разберем възникващите рискове, като същевременно правим смели иновации".
