Facebook ukončil experiment po tom, čo AI vynašla vlastný jazyk
Výskumníci uzavreli projekt po tom, čo stroje vyvinuli vlastný spôsob komunikácie, ktorý je pre ľudí nezrozumiteľný
Inteligentné roboty vykonávajú čoraz viac úloh
Getty Images
Bob: môžem ja všetko ostatné. . . . . . . . . . . . . .
Alice: loptičky majú nulu ku mne ku mne ku mne ku mne ku mne ku mne k
Bob: ty ja všetko ostatné. . . . . . . . . . . . . .
Alice: loptičky majú loptu ku mne ku mne ku mne ku mne ku mne ku mne
Bob: môžem aj ja všetko ostatné. . . . . . . . . . . . . .
Alice: loptičky majú loptu ku mne ku mne ku mne ku mne ku mne ku mne
Napriek tomu, že to vyzeralo ako scenár zo skutočne hrozného televízneho sitcomu, tento rozhovor sa v skutočnosti odohral medzi dvoma programami umelej inteligencie, ktoré boli vyvinuté na Facebooku s cieľom zdokonaliť umenie vyjednávania.
Najprv spolu hovorili jednoduchou angličtinou. Potom si však výskumníci uvedomili, že urobili chybu v programovaní strojov.
„Neexistovala žiadna odmena za lipnutie na angličtine,“ povedal Dhruv Batra, hosťujúci výskumník z Georgia Tech na Facebooku AI Research (Fair). FastCo .
Keďže títo dvaja agenti súťažili o najlepšiu ponuku, „ani jednému z nich nebola ponúknutá žiadna motivácia, aby hovoril ako normálny človek,“ hovorí FastCo.
Začali sa teda rozchádzať, nakoniec preskupovali zrozumiteľné slová do zdanlivo nezmyselných viet, čo spôsobilo pozastavenie experimentu.
Facebook musel vypnúť AI, pretože vyvinul svoj vlastný jazyk pic.twitter.com/EsVEkWViTv
— NowThis (@nowthisnews) 31. júla 2017
„Agenti (alebo programy) sa odklonia od zrozumiteľného jazyka a vymyslia si kódové slová,“ vysvetlil Batra. „Ako keby som päťkrát povedal „the“, interpretujete to tak, že chcem päť kópií tejto položky. To sa až tak nelíši od spôsobu, akým ľudské komunity vytvárajú skratky.“
Vedci však chceli stresovať, experiment sa neopustil kvôli obavám z potenciálne negatívnych účinkov komunikujúcich robotov.
Fair researcher Mike Lewis povedal FastCo, že sa jednoducho rozhodli, že „naším záujmom bolo mať robotov, ktorí by sa mohli rozprávať s ľuďmi“, nie efektívne medzi sebou, a preto sa rozhodli vyžadovať, aby si navzájom písali čitateľne.
Nie je to prvýkrát, čo sa stroje s umelou inteligenciou objavili na vytvorenie vlastného jazyka.
V novembri minulého roka spoločnosť Google odhalila, že AI, ktorú používa pre svoj nástroj Translate, vytvorila svoj vlastný jazyk, do ktorého by prekladala frázy a z nich pred dodaním slov v cieľovom jazyku.
Podávanie správ o vtedajšom vývoji, Tech Crunch povedal: „Zdá sa, že táto „interlingua“ existuje ako hlbšia úroveň reprezentácie, ktorá vidí podobnosti medzi vetou alebo slovom.“
„Môže to byť niečo sofistikované, alebo to môže byť niečo jednoduché,“ dodal web, ale „skutočnosť, že to vôbec existuje – originálny výtvor vlastného systému, ktorý má pomôcť porozumieť pojmom, na pochopenie ktorých nebol naučený. — je, filozoficky povedané, dosť silná vec“.
Tento nedávny vývoj viedol k etickým diskusiám o potenciálnych problémoch strojov komunikujúcich medzi sebou bez ľudského zásahu.
„V prípade Facebooku jediná vec, ktorú chatboty dokázali, bolo prísť s efektívnejším spôsobom obchodovania,“ hovorí Gizmodo .
Existujú však „pravdepodobne dobré dôvody, prečo nenechať inteligentným strojom vyvinúť svoj vlastný jazyk, ktorému by ľudia neboli schopní zmysluplne porozumieť,“ dodáva web.
'Dúfajme, že ľudia budú tiež dostatočne inteligentní na to, aby nezapojili experimentálne programy strojového učenia do niečoho veľmi nebezpečného, ako je armáda laserových androidov alebo jadrový reaktor.'
