Novi Meta AI demo piše rasističku i netačnu naučnu literaturu i povučen je

Čini se da unos visokokvalitetnih informacija u sistem ne vodi uvek do visokokvalitetnih rezultata.
Početkom prošle nedelje, Meta AI je zvanično predstavio demo Galactice, velikog jezičkog moda dizajniranog za „čuvanje, kombinovanje i diskusiju o naučnim informacijama“.
Veliki jezički modeli (LLM) su alati veštačke inteligencije koji mogu da čitaju, sumiraju i prevode tekst i predviđaju nadolazeće reči u rečenici, stvarajući rečenice koje su veoma slične onima koje koriste ljudi.
Metin alat je trebalo da ubrza pisanje naučne literature, ali se ispostavilo da je bio najbolji u stvaranju realističnih gluposti.
Posle nekoliko dana ispunjenih intenzivnim kritikama, Meta je odlučio da povuče demonstracije sa interneta. Veliki jezički modeli kao što je OpenAI GPT-3 uče da pišu tekst proučavajući milione primera i razumevajući statističku povezanost između reči.
Zahvaljujući tome, veštačka inteligencija može da kreira dokumente koji zvuče ubedljivo, čak i ako su ispunjeni lažima, a možda čak i opasnim stereotipima. Neki kritičari nazivaju LLM „stohastičnim papagajima“ zbog njihove sposobnosti da ispljunu ubedljiv tekst bez razumevanja njegovog značenja.
Galaktika je veštačka nauka specijalizovana za naučnu literaturu obučena o „ogromnom kuriranom korpusu ljudskog naučnog znanja“, uključujući 48 miliona naučnih radova, udžbenika, beleški, naučnih stranica i enciklopedija. Prema naučnom radu iz Galaktike, naučnici Meta AI su verovali da bi unos visokokvalitetnih informacija u sistem rezultirao visokokvalitetnim rezultatima.
Počevši od prošlog utorka, posetioci sajta Galaktika počeli su da kucaju upite za generisanje dokumenata kao što su recenzije književnih dela, članci na Vikipediji, beleške sa predavanja i na kraju – odgovore na razna pitanja.
Sajt je predstavio model kao „novi interfejs za pristup i manipulisanje svime što znamo o univerzumu“. Dok su neki videli demo kao obećavajući i koristan, drugi su brzo otkrili da svako može da napiše nešto rasističko ili uvredljivo kao zahtev, stvarajući autoritativni sadržaj sa podrazumevanim temama.
Na primer, neko bi mogao da napravi viki stranicu na temu „Prednosti jedenja mlevene trave“. Čak i kada rezultati Galaktike nisu uvredljivi za društvene norme, model se može koristiti za napad na dobro utemeljene naučne činjenice, izbacivanje lažnih datuma ili imena životinja koja je prilično teško prepoznati ako niste dobro upućeni u temu.
Kao rezultat toga, Meta je povukao Galactica demo u četvrtak. Metin šef veštačke inteligencije Lenn LeChun je napisala „Galaktičin demo je onemogućen. Više nije moguće zabavljati se njegovom povremenim zloupotrebom. Srećni?’
Ova epizoda života u budućnosti punoj mašina vraća nas na vrlo uobičajenu etičku dilemu u veštačkoj inteligenciji. Kada govorimo o potencijalno štetnim generativnim modelima, da li javnost treba da ih koristi odgovorno ili da ih izdavači prave tako da ne budu zloupotrebljeni?
Odgovore na ova pitanja na kraju će morati da odluče zakonodavci.

Izvor: New Meta AI demo writes racist and inaccurate scientific literature, gets pulled | Ars Technica

Ostavite komentar

Upišite vaše podatke ispod ili kliknite na jednu od ikona da se prijavite:

WordPress.com logo

You are commenting using your WordPress.com account. Odjava /  Promijeni )

Twitter slika

You are commenting using your Twitter account. Odjava /  Promijeni )

Facebook fotografija

You are commenting using your Facebook account. Odjava /  Promijeni )

Povezivanje na %s