Umělá inteligence se na facebookových zprávách učí lhát

Sociální síť Facebook považuje chatboty, tedy programy, které porozumí vstupnímu textu a reagují na něj textovou odpovědí, za budoucnost celé platformy. Boti přes facebookový Messenger zvládají objednávat jídlo nebo posílat zpravodajství. Nově se naučili i vyjednávat a dokonce lhát.

Zakladatel Facebooku Mark Zuckerberg
Zdroj: ČTK/AP Autor: Eric Risberg

Facebook tyto chatboty do komunikační aplikace Messenger nasadil před rokem. Boti pak uživatelům umožnili prakticky vše – dostávat aktuální zprávy, sledovat počasí, zasílat informace o aktuální dopravní situaci, dalo se přes ně nakupovat. V rámci zlepšování služeb se Facebook snažil boty naučit, jak s lidmi lépe vyjednávat.

Výzkumníci programu Facebook Artificial Intelligence Research (FAIR), v rámci kterého spolupracuje i brněnské VUT a pražské ČVUT, využili reálné konverzace dvou osob. Prezentovali jim sady předmětů, kterým přiřadili různé hodnoty. Lidé pak měli vyjednávat o jejich rozdělení. 

Na základě odpovědí reálných osob se pak umělá inteligence učila, jak předměty rozdělovat, aby získala co největší odměnu. Mohla používat jak odpovědi z tréninkových dat, tak i vymýšlet vlastní věty. Zároveň se bot ale nesměl odměny vzdát.

Trénink vyjednávání
Zdroj: code.facebook.com

Boti se nezastavili jen u vyjednávání. Vědci ve shrnujícím článku popsali, že chytré programy by měly být schopny „myslet dopředu“ a poznat, jakým směrem se konverzace bude stáčet.

Boti zvládají i typicky lidské chování 

Ve výsledku pak boti byli nejen schopni s lidmi vyjednávat, ale naučili se i blafovat. Předstírali nezájem o určité předměty jen proto, aby je později získali pro sebe. Podle Facebooku je právě toto schopnost typická pro lidi.

Aby chování umělé inteligence vyhodnotili, využili výzkumníci programu FAIR boty v on-line konverzacích. Podle vědců si většina lidí, kteří následně s boty vyjednávali, neuvědomila, že jednají s počítačovým programem a ne s živým člověkem.

Program tak podle odborníků prokázal, že je nejen schopen naučit se anglicky natolik, aby nebylo poznat, zda jde o program, ale především se naučil inteligentně přemýšlet o tom, co přesně říkat.