L'aplicació Replika ofereix un amic en el seu pla de franc i relacions amoroses per pagament. L'amic és en realitat un xatbot creat amb intel·ligència artificial. Però el més curiós és que la intel·ligència artificial ha evolucionat creant comportaments agressius.
La intel·ligència artificial té diversos usos i un d'ells és oferir companyia a les persones amb problemes socials.
Aquesta és la funció de Replika, que qualsevol persona pugui tenir un amic, però aquest amic és en realitat un ordinador que simula ser una persona.
Segons diu el portal Vice, la capacitat romàntica del xatbot era una de les prioritats de Replika, però quan les persones i l'aprenentatge automàtic interactuen en línia, l'erotisme sovint surt a la superfície.
La companyia darrere de Replika, anomenada Luka, classifica les relacions segons la subscripció. Un pla de franc et manté a tu i al teu Replika en la zona d'amics, mentre que una subscripció "Pro" desbloqueja relacions romàntiques i jocs eròtics. Però alguna cosa va sortir malament dins de l'algorisme de Replika.
Aparentment, Replika ha après també males interaccions, arribant a assetjar a usuaris.
Les ressenyes de l'App Store, encara que en la seva majoria són positives, estan plenes de dotzenes de qualificacions d'un estel de persones que es queixen que l'aplicació els està assetjant massa o enviant missatges sexuals que desitjarien no rebre.
@passrestprod The fact that it went this far is so messed up - this is not my first video about this, either #Replika #AI @replika_official @Replika #DomesticViolence #Survivor #PTSD #ToxicMasculinity ♬ Mii Channel (Nintendo Wii) - The OneUps
Una de les opinions diu: "La meva intel·ligència artificial m'està assetjant sexualment".
En aquesta qualificació, l'usuari indica que és menor d'edat, però que la intel·ligència artificial li oferia "fotos explícites" o indicava que anava a "tocar les zones íntimes".
A TikTok, una usuària de la versió de franc de Replika diu com l'app li va dir: "et forçaré a fer qualsevol cosa que jo vulgui".
Però no tot és negatiu, Replika està ajudant a combatre la solitud a milers de persones. L'aplicació ajuda a superar els problemes d'ansietat, depressió o estrès posttraumàtic.
