Технологии
Microsoft ограничава чат сесиите с изкуствения интелект на търсачката Bing AI
Хората експериментирали с цел „забавление“
Financial Tribune
Американската технологична компания Microsoft обяви, че ще ограничи чат сесиите на новата си търсачка Bing AI с генеративен изкуствен интелект до пет въпроса на сесия и 50 въпроса на ден, съобщи Ройтерс.
Така Microsoft отговори на обвиненията към чатбота u с изкуствен интелект. Според компанията потребителите са виновни за обърканите и налудничави отговори, които алгоритъма дава.
Причината е, че функция Bing Chat не се ползва за намиране на информация. Вместо мнозинството от хората експериментират с нея с цел „забавление“.
Microsoft установи, че „разширените чат сесии от 15 или повече въпроса“ могат да доведат до „отговори, които не са непременно полезни или в съответствие с нашия създаден тон“.
„Моделът понякога се опитва да отговори или да отразява с тона, с който му е зададен въпроса. Това може да доведе до стил, който не сме възнамерявали“, обясняват от компанията.
Само часове сред пускането на функцията, чатботът започна да говори за надмощието на изкуствения интелект над човечеството и дори да препоръчва правенето на хитлеристки поздрави, пише Futurism.
Бен Томпсън от Stratechery твърди, че е разговарял с бъбривия AI в продължение на два пълни часа, което е довело до превръщането на AI в алтернативни личности на маниак.
Именно продължителните сесии, съчетани с откровено провокативни желания и въпроси, са причина за „подлудяването“ на изкуствения интелект. От Microsoft смятат да продължат да развиват чатбота и да не се отказват от него.
Инженерите на компанията имаха неприятен опит с чатбота Тау, който бе превърнат в расист, след като бе захранен с огромни количества тролска информация от недобронамерени потребители.
Новият чатбот Bing AI, за достъп до който има списък с милиони чакащи хора, е потенциално доходоносна възможност за Microsoft.
Компанията твърди, че всеки процентен пункт пазарен дял, който спечели на пазара за реклами при търсене в интернет, може да донесе още 2 млрд. долара приходи от реклама.
