Анализи
Зукърбърг атакува OpenAI и Anthropic заради контрола върху ИИ
Financial Tribune
Марк Зукърбърг отправи остра критика към Anthropic и OpenAI – две от най-ценните стартъп компании в сферата на изкуствения интелект. Той заяви, че начинът, по който те разработват своите AI системи, може да доведе до прекомерна концентрация на власт и да ограничи достъпа на хората до тази трансформираща технология.
В интервю за „Ню Йорк Таймс“ във вторник 42-годишният главен изпълнителен директор на Meta не назова директно Anthropic и OpenAI, но каза, че ако водещите изследователски лаборатории продължат да развиват изкуствения интелект при строг контрол и ограничения – както според него правят тези компании – това би било равносилно на „изоставяне на ценностите“ в американското технологично развитие и би задушило иновациите.
„Голяма част от дискусията, която идва от много от другите лаборатории, разработващи тези технологии, е изпълнена предимно с обреченост. Трябва да има глас или няколко гласа, които да внесат реализъм в този дебат“, заяви Зукърбърг.
Коментарите на Зукърбърг, който рядко дава интервюта пред традиционни медии, задълбочават спора в Силициевата долина за начина, по който трябва да се създават системите с изкуствен интелект. Технолози като главния изпълнителен директор на Anthropic Дарио Амодей и ръководителя на OpenAI Сам Олтман смятат, че някои от най-модерните AI модели днес са твърде опасни, за да бъдат разработвани и разпространявани без строг контрол.
Microsoft, Nvidia, Google и Meta обаче не са съгласни с този подход, като настояват, че много AI модели трябва да бъдат разработвани по по-отворен начин, за да могат хората да развиват технологията и да създават нови бизнеси.
Разногласията се засилиха този месец, след като пробивите в китайските AI модели изглежда намалиха преднината, която американски компании като Anthropic и OpenAI имаха. Двете компании лобираха пред регулаторите във Вашингтон, изразявайки опасения относно китайските модели с отворен код.
Главният изпълнителен директор на Nvidia Дженсън Хуанг публикува писмо в подкрепа на разработването на софтуер с отворен код, което получи подкрепа от други представители на технологичния сектор. Тази седмица Хуанг обяви създаването на коалиция за разработване на инструменти за сигурност и киберзащита с отворен код за изкуствен интелект, към която се присъединиха технологични гиганти като SpaceX и IBM.
Ръководители в технологичния сектор, сред които Хуанг и Олтман, пътуват тази седмица до Вашингтон, за да представят аргументите си пред администрацията на Доналд Тръмп, която обсъжда подхода си към въпроса.
На фона на този спор Зукърбърг многократно е заявявал, че повече хора, а не по-малко, трябва да имат достъп до AI технологиите – позиция, която се възприема като косвена критика към Амодей и Олтман.
Амодей по-специално предупреждава за опасностите от т.нар. „риск при съгласуването“ (alignment risk) – проблемът как изкуственият интелект да бъде програмиран така, че да действа безопасно спрямо хората.
„Мисля, че много хора имат представата, че ако създадете някакъв вид единствен изкуствен интелект, можете чрез идеализирана форма на съгласуване да гарантирате, че той ще бъде добронамерен към човечеството. Аз лично съм скептичен към този подход“, заяви Зукърбърг.
Вместо това той призова за „персонализирана свръхинтелигентност“ за всеки човек – система, при която AI асистентите се настройват според нуждите и желанията на отделните потребители.
Според него идеята за единна „добронамерена“ свръхинтелигентна система е невъзможна, тъй като хората имат различни възгледи и ценностни системи.
„Мисля, че буквално е невъзможно да има една-единствена добронамерена свръхинтелигентност, която едновременно да е съобразена с всички хора“, каза той.
Представители на Anthropic и OpenAI не са отговорили веднага на исканията за коментар. В предишни изявления OpenAI посочи, че подкрепя софтуера с отворен код и работи с Белия дом за безопасни начини за развитие на изкуствения интелект.
В публикация в блог Амодей заяви, че Anthropic се фокусира върху „предотвратяване попадането на мощни чипове в ръцете на авторитарни режими, спиране на индустриалното копиране на модели и изискване на тестове за безопасност за всички достатъчно мощни модели – както отворени, така и затворени“.
На 28 юли водещи изследователи в областта на изкуствения интелект от Anthropic, OpenAI, Meta и Google подписаха съвместно отворено писмо, озаглавено „Забавяне на границата“, в което призоваха за международни усилия за създаване на технически и управленски инструменти, които да ограничат темпото на развитие на AI от съображения за сигурност. OpenAI публикува писмото в социалните мрежи.
Собствената философия на Meta за развитието на изкуствения интелект също се е променяла през годините. Дълго време компанията подкрепяше AI моделите с отворен код и предоставяше безплатно своите разработки. Миналата пролет обаче, след като изостана от Anthropic и OpenAI в надпреварата за изкуствен интелект, Зукърбърг предприе промени.
Той инвестира 14,3 млрд. долара в стартъпа за изкуствен интелект Scale AI и привлече неговия основател Александър Уанг, който да ръководи обновяването на AI подразделението на Meta, преименувано на Meta Superintelligence Labs.
Meta вложи милиарди долари в създаването на екип от водещи AI специалисти около Уанг, които започнаха разработването на модел със затворен код. Това даде възможност на компанията да продава достъп до новите си модели и да увеличи приходите си. Този месец Meta започна за първи път да предлага платен достъп до най-новия си AI модел Muse Spark. Компанията продължава да разработва и модели с отворен код.
Зукърбърг отдавна вярва, че изкуственият интелект ще промени обществото по положителни и все още непредвидими начини. Този месец Meta стартира национална рекламна кампания, в която заявява, че инвестирането в AI инструменти и широкото им разпространение означава, че компанията „залага на хората“.
В авторска статия за „Уолстрийт Джърнъл“ тази седмица Зукърбърг разкритикува „централизирането“ на властта в сферата на изкуствения интелект и заяви, че вярва в „овластяването на хората, изобретателността и баланса на силите“. В публикацията той не спомена поименно Anthropic и OpenAI.
В интервюто за "Ню Йорк Таймс" Зукърбърг призна, че дебатът около AI е силно поляризиран, но отбеляза, че разговорите му с различни представители на Силициевата долина и Вашингтон са били продуктивни.
„Не знам дали целта е всички да се съгласят с всичко. Почти по дефиниция, ако вярвате в това, в което вярвам аз, не е нужно да убеждавате всички във всичко“, каза той.
Разглеждайки развитието на технологиите през годините, Зукърбърг заяви, че демократизирането на технологичните инструменти в крайна сметка обикновено надделява.
„Вярвам, че общата посока на индустрията е към повече отвореност и предоставяне на технологичната сила в ръцете на повече хора, а не на по-малко“, каза той.
