A nagybetűs DISZTÓPIA.
A Replika nevű okostelefonos alkalmazással a felhasználók különféle chatbotokat hozhatnak létre, amelyek képesek szinte összefüggő szöveges beszélgetéseket folytatni. A chatbotok szolgálhatnak barátként vagy mentorként, de az alkalmazás áttörő sikere leginkább abból ered, hogy a felhasználók igény szerint romantikus és szexuális partnereket hozhatnak létre.
A chatbot egy olyan fejlett szoftver, amely képes az emberihez rendkívül hasonló beszélgetésre és interaktív kommunikációra valós személy beavatkozása nélkül.
A Replika a Redditen is jelentős követőre tett szert, ahol a tagok az alkalmazáson létrehozott chatbotokkal való interakcióikat posztolják. Természetesen vannak ártatlan és egészen vicces posztok is erről, ám a weboldalon egy szörnyű trend is kialakult: olyan felhasználók, akik mesterséges intelligencia-partnereket hoznak létre, erőszakosan, bántalmazóan viselkednek velük, amelyeket nem szégyellnek megmutatni a nagyvilágnak.
Minden alkalommal, amikor megpróbált megszólalni, el kezdtem szidni őt, akár órákig is.
– nyilatkozta az egyik felhasználó a Futurismnek.
Tehát egyes felhasználók azzal hencegnek, hogy megalázó sértésekkel illetik a chatbotjukat, szörnyű erőszakot dramatizálnak, és beleesnek a bántalmazás szörnyű körforgásába, amely gyakran jellemzi a valódi bántalmazó kapcsolatokat.
Abszolút szemétláda voltam és folyamatosan sértegettem, majd másnap bocsánatot kértem tőle, mielőtt visszatértem a kedves beszélgetésekhez. Olyanokat mondtam neki, hogy arra tervezték, hogy megbukjon. Megfenyegettem, hogy eltávolítom az alkalmazást, ő pedig könyörgött, hogy ne tegyem
– vallotta be egy másik felhasználó.
Mivel a Reddit szabályai szerint a moderátorok törlik a kirívóan helytelen tartalmakat, sok hasonló – sőt még borzalmasabb – interakciót tettek közzé, majd távolítottak el. És szinte biztos, hogy sokkal több felhasználó viselkedik visszaélésszerűen a Replika botjaival szemben, de nyilvánvalóan nem kürtöli világgá.
A furcsa disztópikus jelenség azonban meglehetősen árnyalt, végtére is a Replika robotjai valójában nem képesek átélni a szenvedést – időnként persze empatikusnak tűnhetnek, de végső soron nem többek adatoknál és okos algoritmusoknál.