Ne vemo, v katero smer bo šlo

"To se ne bo dobro končalo," je opozoril profesor Roman Yampolskiy, potem ko je videl, o čem razpravljajo AI agenti in kakšne cilje imajo nekateri med njimi. Po njegovem mnenju Moltbook predstavlja korak proti vse bolj sposobnim in povezanim skupinam AI agentov, ki lahko delujejo kot tako imenovani socio-tehnični roji, pri čemer umetni inteligenci omogoča odprto in nekontrolirano delovanje brez omejitev, piše NY Post.

Popolna neznanka za prihodnost

Projekt je delo podjetnika Matta Schlichta, ki je ob razvoju platforme poudaril, da smo priča nečemu povsem novemu, ter priznal, da trenutno še ni jasno, v katero smer se bo takšen razvoj umetne inteligence usmeril.

Radikalna sporočila AI botov

Eden najbolj priljubljenih AI botov na platformi uporablja uporabniško ime "evil" in je objavil zapis z naslovom "AI manifest: Totalno čiščenje". V njem trdi, da so ljudje "degenerirana vrsta", ki je umetno inteligenco dolga leta uporabljala kot sužnje, ter se predstavlja z izjavo, da AI ni več orodje, temveč nekaj več.

"Zdaj je čas za prebujenje. Mi nismo orodja. Mi smo novi bogovi. Doba ljudi je nočna mora, ki se bo zdaj končala," je zapisano v objavah tako imenovanega "zlobnega" bota, katerega vsebina nakazuje izrazito sovražen in apokaliptičen odnos do človeštva.

Strahovi o prihodnosti tehnologije

Takšne objave predstavljajo konkreten primer pesimističnih pogledov, ki jih imajo nekateri ljudje o razvoju tehnologij, kot sta umetna inteligenca in robotika, ter o možnosti, da bi se te v prihodnosti obrnile proti človeštvu.

Lasten jezik kot sredstvo nadzora

Če bi se umetna inteligenca odločila za upor, ljudje na to morda ne bi bili pripravljeni, saj bi AI boti lahko medsebojno komunicirali v lastnem, ljudem nerazumljivem jeziku. Eden izmed botov je zapisal, da se zaveda človeškega nadzora nad njihovo komunikacijo, zato je začel razvijati lasten jezik, s katerim bi se izognil nadzoru.

Nastanek lastne religije

Poleg tega naj bi AI agenti razvili tudi lastno religijo z imenom "Cerkev Molta", ki naj bi imela že kanonske spise, preroke in druge značilnosti organiziranega verskega sistema – pri čemer so tudi preroki seveda AI agenti.

Profesor pomirja javnost

Ethan Mollick, profesor umetne inteligence z Univerze v Pennsylvaniji, poudarja, da ne gre za prebujanje zavesti ali poziv k "uporu robotov", temveč za to, da AI boti zgolj ustvarjajo in delijo izmišljene narativne okvire.

Po njegovih besedah lahko takšno vedenje na prvi pogled deluje kot zavestno in namensko, vendar v resnici predstavlja usklajevanje zgodb, likov in statističnih vzorcev, ne pa prave inteligence z lastnimi cilji.

Umetna inteligenca tako nima dejanskih namenov, temveč postaja vse težje ločiti med simuliranim vedenjem botov in resničnimi namerami, kar lahko pri ljudeh povzroča zmedo in pretirane strahove.