Les màquines ja saben com atemorir els humans

El projecte Shelley estudia com es poden produir històries de terror fruit de la col·laboració entre humans i intel·ligència artificial.

Ernest Thesiger i Colin Clive a «La novia de Frankenstein» dirigida per James Whale, 1935

Ernest Thesiger i Colin Clive a La novia de Frankenstein dirigida per James Whale, 1935 | Sense restriccions conegudes de drets d’autor

Shelley és la primera intel·ligència artificial escriptora de terror. El projecte intenta determinar com poden col·laborar humans i màquines, quins obstacles presenta aquesta relació i sobretot si la intel·ligència artificial és capaç de provocar emocions primàries en els humans. En parlem amb Manuel Cebrián, científic del MIT Medialab, que ens parla de l’aprenentatge profund i ens explica el procés a través del qual van ensenyar a Shelley a escriure històries de terror.

L’any 1816 no hi va haver estiu. El clima va embogir del tot. Les gelades i les sequeres van arruïnar les collites i van estendre la fam per Amèrica del Nord i Europa, mentre que a Àsia el monsó provocava inundacions. La calor no arribava i la neu queia sense parar, a ple juny, cosa que va fer que un grup de cinc amics anglesos es veiessin obligats a passar les vacances confinats en una mansió a la vora del llac Léman, a Suïssa. Eren Lord Byron, el poeta; el metge John Polidori; Percy Shelley, poeta; la seva dona, Mary Shelley, l’escriptora, i la seva germanastra, Claire Clairmont.

Avorrits, es van proposar el repte d’escriure cadascú una història de terror, tan esborronadora com poguessin. En aquella competició, Lord Byron va escriure el poema «Foscor», narrat pel darrer ésser humà de la Terra, i Polidori va inventar-se un conte de vampirs que temps després va inspirar Bram Stoker a crear el cèlebre comte Dràcula. Mary Shelley va gestar Frankenstein, encara que no va enllestir la novel·la fins catorze mesos més tard.

Qui podia saber que el 2017 tornaria a ser un any sense estiu, i que Byron, Shelley i Polidori es trobarien de nou, aquest cop confinats a Twitter, i hi escriurien històries de terror?

«Shelley és la primera intel·ligència artificial escriptora de terror. És capaç d’escriure relats de por, tota sola o en col·laboració amb humans usuaris de Twitter i amb dos altres robots als quals ha insuflat vida, Lord Byron i Polidori», explica Manuel Cebrián, científic del grup Scalable Cooperation, al Medialab de l’Institut de Tecnologia de Masschusetts (MIT), a Cambridge (EUA).

Per aconseguir-ho, Shelley es basa en una capacitat de la intel·ligència artificial anomenada aprenentatge profund, que li permet d’aprendre per si sola, a partir de grans quantitats de dades i imitant el funcionament de les xarxes neuronals del cervell.

L’algoritme analitza la informació i n’extreu la que és rellevant per a la tasca que durà a terme, així com els patrons a partir dels quals podrà, per exemple, diagnosticar malalties, en el cas de les aplicacions biomèdiques; descobrir nous exoplanetes, com van anunciar recentment la Nasa i Google, o escriure històries de por noves i originals partint de zero, com fa Shelley.

Abans de debutar com a escriptora de terror, aquesta androide tuitaire es va preparar «llegint» una quantitat ingent de literatura de terror, des de clàssics, com Edgar Allan Poe o H. P. Lovecraft, fins a autors moderns, com Stephen King. També va devorar els canals de terror de Reddit –un agregador de notícies–. Després va processar tot el que havia llegit, centenars de milers de relats de terror, en va extreure patrons i va començar a generar històries esgarrifoses.

Per saber quines eren les que acomplien més bé el propòsit, que era fer por a qui les llegís, Shelley es basava, sobretot al principi, en les reaccions de la gent: en els «m’agrada» i en les repiulades que tenia cada nou relat.

Així, cada cert temps l’algoritme fa una piulada o bé obre un breu fil i inicia una nova història, que tothom pot seguir i que es pot respondre senzillament contestant qualsevol dels missatges acabats amb l’etiqueta #yourtorn (‘et toca’). Shelley, però, no contesta tots els missatges que rep, sinó només els que tenen més potencial narratiu i són capaços de generar un fil llarg.

«És capaç d’aprendre quins fils narratius funcionen més bé per al terror. I pot generar escenes de por que no s’assemblen gens ni mica a les que coneixem. Ha creat un tipus de terror completament nou», assegura Cebrián, entusiasmat, i rebla: «Ara ni tan sols necessita els humans. Amb Polidori i Lord Byron, els tres robots ja són capaços d’escriure i de millorar per si sols.»

No obstant això, i per sort per als escriptors de terror de carn i ossos, de moment els relats que els tres robots són capaços de generar tenen una extensió màxima de cinc paràgrafs.

Shelley tampoc no respon a comentaris racistes, sexistes, amb insults o incoherents. I, esclar, n’hi ha hagut i encara n’hi ha. «Hi havia gent que es dedicava a “trolejar” el projecte i a intentar que Shelley digués coses que no havia de dir. Les ganes de destruir són innates a l’ésser humà, com les ganes de crear. El mal sempre ens espera a la cantonada», assenyala Cebrián, que es confessa fan del gènere de terror.

El projecte Shelley es va estrenar el Halloween passat, el 2017, i forma part d’una trilogia amb la qual Cebrián, junt amb els investigadors Pinar Yanardag i Iyad Rahwan, també del grup Scalable Cooperation de Medialab (MIT), pretén explorar com cooperen els humans i les màquines, descobrir quins obstacles presenta aquesta relació i, sobretot, determinar si la intel·ligència artificial és capaç de provocar en els humans emocions primàries com la por per mitjà d’estratègies de cooperació.

«Generar una emoció visceral com la por continua sent un dels pilars de la creativitat humana. El desafiament és especialment important en un moment en què ens demanem quins són els límits de la intel·ligència artificial», expliquen els tres investigadors al web del projecte.

«Darrerament es diu molt que la intel·ligència artificial és una amenaça per als éssers humans. Volem explorar fins a quin punt això és cert, i avançar-nos a un possible mal ús d’aquesta tecnologia. Si algú volgués fer servir la intel·ligència artificial per infondre por a la societat i propagar idees per atemorir la gent, podria? La resposta és que sí, però amb matisos», considera Cebrián.

El primer experiment en aquesta línia es va llançar el 2016, quan van crear, també pels volts de Halloween, Nightmare Machine, un robot capaç de generar cares i escenaris fantasmagòrics. Com Shelley, aquesta màquina de l’horror es basa en l’aprenentatge profund. Els investigadors primer van entrenar el sistema alimentant-lo amb cares de celebrities, com Brad Pitt; paisatges i monuments, com la Torre Eiffel, i un corpus d’imatges suposadament de por, com zombis i ciutats embruixades o inundades de residus tòxics.

El castell de Neuschawnstein, transformat amb Nightmare Machine

El castell de Neuschawnstein, transformat amb Nightmare Machine

L’algoritme barrejava en graus diversos les dues menes d’imatges i n’ensenyava el resultat als humans, que votaven, a través del web del projecte, quina imatge els resultava més esfereïdora. (El Brad Pitt zombi és molt popular.)

D’aquesta manera, al final el sistema tenia milers de cares generades digitalment, i gràcies a la votació de més de dos milions de persones va poder-les classificar i va escollir les més terrorífiques. Resulta interessant que l’algoritme també va aprendre què feia més por a cada país, i què espantava més els homes i què les dones. «Hi ha cultures en què la IA no és capaç d’aprendre què espanta, com en les asiàtiques, en les quals la màquina dels malsons no funciona bé perquè tenen una visió del terror que no té cap relació amb la nostra», apunta Cebrián.

Per comprovar l’efectivitat real d’aquesta màquina dels malsons, van fer un experiment en què, per mitjà d’un test psicomètric, mesuraven els nivells d’ansietat de les persones que hi participaven, i van comprovar que les deu cares o els deu escenaris que més por els feien també eren els que més ansietat els produïen. «La IA era capaç de detectar les emocions extremes de les persones i provocar-les», subratlla Cebrián, que afegeix: «Aleshores, si algú volgués fer servir imatges manipulades per espantar la població, podria? La resposta és que sí.»

La màquina dels malsons no és el primer intent d’emprar la IA per fer por. El superordinador d’IBM Watson va ajudar a crear el tràiler de la pel·lícula de ciència-ficció Morgan (2016). Per aconseguir-ho, l’algoritme va analitzar centenars de tràilers de pel·lícules de terror i després va processar tot el llargmetratge per identificar les millors escenes de por. Al final va aïllar-ne deu moments, aproximadament sis minuts de vídeo, i això va ser el que un editor humà va muntar per crear una història coherent. La IA va enllestir el procés amb tot just vint-i-quatre hores, mentre que en general per fer els tràilers de les pel·lícules es triga entre deu dies i un mes.

Ara està a punt d’estrenar-se la tercera i última part d’aquesta trilogia de la qual formen part Shelley i Nightmare Machine. Serà aquest 1 d’abril, dia en què molts països celebren l’April Fool’s Day, una mena de Sants Innocents. «Tancarem la trilogia amb Norman, en honor a Norman Bates, una IA que serà capaç d’espantar-nos d’una manera més psicològica», apunta Cebrián.

De moment, sembla que les màquines poden servir per espantar-nos. Què en faran, d’això, les persones que les manegen, en una època en què hi ha milers de bots que circulen per les xarxes propagant notícies falses i imatges manipulades capaces de generar tota mena de reaccions espontànies? I, encara més important, què en farem, d’això, nosaltres, la societat?

«Gràcies a aquesta mena d’experiments ara som capaços de, per exemple, detectar quan s’ha creat una d’aquestes entitats per Internet, els famosos bots, i entendre més bé com funcionen i quines limitacions tenen», apunta Cebrián. «De vegades cal fer coses dolentes per veure quin és el límit de fer el mal.»

Aquest article té reservats tots els drets d’autoria

Vegeu comentaris0

Deixa un comentari

Les màquines ja saben com atemorir els humans