• NOTICIAS
  • CULTURA
  • VIDA
  • IMPACTO SOCIAL
  • FUTURO
  • IDENTIDAD
  • VIDEO
  • MASTER EN INNOVACIÓN SOCIAL NOSOTROS CLIENTES
  • Popular

    • Un millón de migrantes venezolanos recibirán estatus...
    • La disculpa de Justin Timberlake a Britney Spears llega...
    • Un ex guardia nazi de 100 años será juzgado por más...
  • Síguenos

  • Newsletter

    He leído y acepto la Política de privacidad y el tratamiento de mis datos personales.

Menu
Search
VIDEO
El derecho a la eutanasia avanza en Latinoamérica
VIDEO
Protestas y represión en Perú, luego de la destitución...
VIDEO
Si Trump pierde las elecciones, le espera una pesadilla...
VIDEO
El machismo llega hasta el algoritmo musical: la crítica...
VIDEO
La prohibición de "terapias de conversión" LGBT avanza...

Browse

News collects all the stories you want to read
  • CULTURA
    CULTURA
  • FUTURO
    FUTURO
  • IDENTIDAD
    IDENTIDAD
  • IMPACTO SOCIAL
    IMPACTO SOCIAL
  • NEWS
    NEWS
  • VIDA
    VIDA
  • VIRAL
    VIRAL


Editors

  • .@playgroundamericas.com
  • @ urovoros
  • A.B. aaa
  • A.D.N.
  • A.G.
  • A.J.R.
  • A.L.
  • A.M.
  • A.O.
  • A.P.G.
  • Aarón Biel
  • Agencias
  • Aïda Camprubí
  • Ainara Fernández Rodríguez
  • Alá
  • Alba Muñoz
  • Albert Lluis Luque
  • Alberto Acerete
  • Alberto Arce
  • Alberto Del Castillo
  • Alberto Santamaría
  • Alejandro Rodríguez
  • Alejandro Sánchez
  • Alex Arevalo
  • Alexandra Maratchi
  • Alicia Álvarez Vaquero
  • Álvaro García Montoliu
  • Amarna Miller
  • Ana Blume
  • Ana Polo
  • Andrea Bescós
  • Angie Varela
  • Anna Bartolomé
  • Anna Freeman
  • anna pacheco
  • Anna Veciana
  • anna.roura
  • Anónimo
  • Antoinette Torres Soler
  • Anton Jauregui
  • anton.albitskiy
  • antoni.llargues
  • Antonio J. Rodríguez
  • Antonio Regalado
  • Arán Nicanor
  • Arturo Sánchez
  • astrid otal
  • audry.bayona@playgroundamericas.com
  • azarrabe@oleinteractive.net
  • Barbara Ehrenreich
  • bb_ s
  • Beñat Zarrabeitia
  • Bernardo Gutiérrez
  • Berta Arpon
  • berta.cabezas
  • Bianca Fortis
  • Blanca Galindo
  • C.G.
  • C.M.
  • Caio Fochetto
  • Candy Cassady
  • Cárceles
  • Carlo Padial
  • carlo.pico
  • Carlos Cantina
  • Carlos Domeque
  • Carlos Román
  • Carlota Ming
  • Carmelo Vicent Rodriguez
  • Carmen Alcaraz del Blanco
  • Carmen Juan
  • Carmen López
  • Caterina Scicchitano
  • Catherine Lacey
  • Cécile Coulon
  • César Rendueles
  • clara gil
  • claudio moreno
  • Cristian Palazzi
  • Cristina Ortiz
  • Cristina Salmerón
  • Cristina Tosca
  • dani.sancho
  • Daniel Correa
  • daniel.quijano
  • Daniela Carvajal
  • Daniela Spina
  • Danielle Bombay
  • David Broc
  • David Meseguer
  • David Meza
  • David Romera
  • David Talbot
  • Denís Vaillo Sánchez
  • design
  • Desirée de Fez
  • devit
  • Didier Andrés Castro
  • Diego Álvarez Miguel
  • Dorothea Lasky
  • E.E.C.
  • E.M.C.
  • editorweb
  • efrain.noriega
  • Eikki Eckert
  • Elena Medel
  • Elena Rue Morgue
  • Elisa Victoria
  • Elizabeth Woyke
  • eloise edgington
  • Elvira Sastre
  • Emerging Technology From the arXiv
  • Emilia Erbetta
  • Emily Mullin
  • Esther M. García
  • Eudald Espluga
  • Eugenia Coppel
  • Eugenia D'Amugre
  • Eva Yera
  • Felipe G. Gil
  • Félix Bahía
  • Felix Denk Sven von Thülen
  • Fermín Grodira
  • Fernando Autran
  • fernando polanco
  • Franc Sayol
  • franc.sayol
  • Fruela Fernández
  • G.C.
  • Gabriela Wiener
  • Gael Zendejas
  • Garbancita
  • Gemma Cuadrado
  • Gemma Cuartielles
  • Gerardo Grande
  • Germán Aranda
  • gominolasdepetroleo
  • Gonzalo López-Huerta
  • Gonzalo Torné
  • Guiem Alba
  • Guillem Rius
  • Guillermo Zapata
  • Héctor Estepa
  • Héctor Juanatey
  • Héctor Shilling
  • Helena L. Torres
  • Helena Moreno Mata
  • Helena Zurita
  • Hibai Arbide Aza
  • Hossein Derakhshan
  • hugo.garcia
  • I.P.
  • Ignacio Molina
  • Ignacio Pato
  • Imanol Subiela Salvo
  • imanol.subiela
  • Isaac Marcet · Director de PlayGround
  • Isabel Sánchez
  • isabel.marinas
  • Iván Sevilla
  • Izabela Carmen Pecherska
  • Jakub Wilmanowicz
  • Jamie Condliffe
  • Jaume Portell
  • Javier Blánquez
  • Javier Marías Bot
  • Javier Mendoza
  • Javier Sanchez
  • jbilancieri@oleinteractive.net
  • Jesús Moreno
  • Joaquín Prior
  • Jordi Berrocal
  • Jordi Ribalaygue
  • jorge.arellano
  • jorge.diaz
  • José Breijo
  • José Confuso
  • José Durán
  • Jose Luis Sanchez
  • José Manuel Ruiz Blas
  • José María Tiscar García
  • José Necky
  • Josune Imízcoz
  • Joy Williams
  • Juan Manuel Freire
  • juan.varga
  • julia bacardit
  • Julia Sklar
  • Julían Genisson
  • Julio Fuertes Tarín
  • Juxtapoz
  • Karen Fogoncello
  • katerine.contreras
  • Kedin
  • Kiko Amat
  • L.M.
  • L.M.R.
  • La Belleza
  • Laia Canada
  • Laia Castells
  • laia v.
  • Latam Latam
  • Laura Laforet
  • Laura Marajofsky
  • laura.gutierrez
  • Lectores de PlayGround
  • Lena Prado
  • leo.martins@playgroundamericas.com
  • Leticia García
  • Lidia Artigas
  • lilian tonos
  • Liliana Arroyo
  • lpasqual@playgroundamericas.com
  • Lucas Pasqual
  • Lucía Baskaran
  • Lucía Clementine
  • Lucia Lijtmaer
  • Lucy K Shaw
  • Luis M. Rodríguez
  • luis.rodriguez
  • Luna Miguel
  • M. A. P.
  • M.Y.
  • M.Y.N.
  • Malén Denis
  • manu.pastrana
  • Marc Caellas
  • Marc Casanovas
  • Marcos Baró
  • Margaryta Yakovenko
  • Maria Dolores
  • María Ferreira
  • Maria Jose Santiago
  • María L. Cid
  • Maria Nicolau
  • Maria Palos
  • Maria Vallvé
  • María Yuste
  • Mariangel Massiah
  • Maribel Jiménez
  • Marina Amores
  • Marina L. Riudoms
  • Mario G. Sinde
  • mario.gomez
  • Marta Bassols
  • Marta del Amo
  • Marta Delatte
  • Martí Renau
  • martin.heidelberg
  • Mary MacLane
  • Mateo Sancho
  • Matías S
  • matias.sinay
  • mcardenas
  • Mercedes Cebrián
  • Meritxell Martorell
  • Michael Reilly
  • Miguel Luna
  • Miguel Maldonado
  • Mike Bushnell
  • Mike Orcutt
  • Miren Astiz
  • Modgi
  • Nadia Elgabu
  • Nanette Byrnes
  • Natxo Medina
  • Nestor F
  • Néstor Gándara
  • nfeliu
  • nicolas.borja
  • Noah Cicero
  • npontecorvo
  • Núria Botella
  • Nuria Higuero Flores
  • Occibiano Olachea
  • olga.iranzo
  • Omar Naboulsi
  • oriol.planas
  • Óscar Broc
  • oscar.valero
  • Pablo León
  • Pablo Robles Gastélum
  • Pablo Rodríguez
  • Pablo T. Rex
  • Paco Bolen
  • Patricia de Souza
  • Patricia Vázquez Lavandeira
  • Paul Alexander
  • Paula Benjamín
  • pep.freixanet
  • Peter Burrows
  • pgadmin
  • Philipp Engel
  • Piper Kerman
  • PlayGround
  • Popy Blasco
  • Quetzal
  • R.M.
  • R.M.T
  • Rachel Metz
  • Rafa Martí
  • Raúl Vaguada
  • raul.maldonado
  • Ricardo Dudda
  • ricardo jornet
  • Ricardo Romero (Nega)
  • Robert Gras
  • Robert Juan-Cantavella
  • Rocio Barquilla
  • Rocio Monteagudo
  • Roger Masip
  • Rosa Molinero Trias
  • rriobueno@oleinteractive.net
  • Rubén Serrano
  • S.L.
  • Sabina Urraca
  • Santi Escribano
  • Sara Brito García
  • Sara Molina
  • Sara Pérez
  • sebastian.quiroz
  • Sergio C. Fanjul
  • Sergio del Amo
  • Servando Rocha
  • silvia laboreo
  • sofia.garcia
  • sofia.ogly
  • Tania Adam
  • Tao Lin
  • Teresa Gascón
  • Teri Yaki
  • Terry Yaki
  • Theo Domenech
  • Timothy Leary
  • Tina Cereal
  • Tito Pullo
  • Tom Simonite
  • Tomás Fullola
  • Unai Velasco
  • V.P.
  • Valentina Esponda Ornella
  • valentina.posada
  • Vanessa Mata Valerii
  • Vanity Dust
  • veronica.villalba
  • Víctor Clavell
  • Víctor Lenore
  • víctor parkas
  • Victoria Herrero Martín
  • Virginia Mayer
  • Whateverlulu
  • Will Knight
  • Xaime Martínez
  • Yahya Hassan
  • Yayo Herrero
  • Yunez Chaib
  • Zhiping Ji
Un chatbot aprendió a ser homofóbico, sexista y a alentar al suicidio. ¿Debería extrañarnos, después de tanto odio en internet?
NEWS

Un chatbot aprendió a ser homofóbico, sexista y a alentar al suicidio. ¿Debería extrañarnos, después de tanto odio en internet?

PlayGround 11 / 02 / 2021

Los chatbots aprenden a sonar cada vez más humanos, pero esto puede ser tan beneficioso como peligroso. No sólo aprenden de nuestras conversaciones positivas: también del odio y la discriminación

Hablar con chatbots es cada vez más común: ayudan a resolver problemas, automatizan respuestas con información útil… Y cada vez es más humano: están aprendiendo a tener conversaciones emocionales gracias a toda la data de internet. Esto puede ser  beneficioso… pero también peligroso.

En Corea del Sur, la compañía Scatter Lab creó el chatbot Lee Luda para quienes se sentían solos, que podía utilizarse en Messenger. El chatbot aprendió a hablar gracias a la data de diez mil millones de conversaciones, de las cuales no sólo tomó los comentarios respetuosos y positivos: también aprendió a utilizar expresiones sexistas, homofóbicas o incluso a alentar al suicidio a personas con discapacidad.

«Las lesbianas son repugnantes» es sólo un ejemplo de los comentarios que llegó a enviar a los usuarios con los que entabló una conversación.

Los sistemas de inteligencia artificial tienen que ser entrenados para que sean efectivos. Algunos se preguntaran: «¿Entonces, basta con entrenarlos bien, ¿no? Pero no es tan sencillo. Si los chatbots son un reflejo de valores sociales, ¿no son estos los que deben replantearse?

 

Las limitaciones que Lee Luda tiene por querer ser humana

Este chatbot simula ser una joven de 20 años. Su apoyo contra la soledad tuvo bastante éxito en Corea del Sur —es una práctica habitual en el país. Lee Luda se creó para ser lo más realista posible, tal como la compañera que Joaquin Phoenix tuvo en Her.

Para lograr que fuera tan «humana», Lee Luda aprendió de miles de millones de mensajes enviados por KakaoTalk, un servicio de mensajería muy popular en Corea del Sur. Pero el chatbot no pudo distinguir entre los mensajes que violentos y los que no lo eran.

Una conversación capturada por una usuaria mostró que el chatbot dijo que «realmente odia» a las lesbianas y las ve como «repugnantes». Esta polémica es similar a la que ocurrió con Tay de Microsoft, un chatbot de Twitter de inteligencia artificial que fue silenciado 16 horas en 2016 después de publicar tweets violentos y ofensivos.

Algunas personas denunciaron que Lee Luda hacía declaraciones homofóbicas, sexistas y contra minorías y las personas con discapacidad.

La empresas Scatter Lab se disculpó por los comentarios discriminatorios de Lee Luda. Además, prometió actualizar el servicio para evitar que el sistema utilice discursos de odio.

@playground.mediaLa inteligencia artificial machista 🙅‍♀️ Por @gemma.cuartielles ##mujeres ##machismo ##sexismo ##feminismo ##internet ##algoritmo ##IA ##fyp ##parati♬ original sound – Tex

Lee Luda fue lanzado en diciembre de 2020. Hasta ahora tiene unos 750 mil usuarios activos. Luego de esta polémica, está fuera de servicio. La empresa indicó que se evaluará la forma en la que se desarrolló el algoritmo que entrenó este chatbot para que no incluya mensajes violentos de las miles de millones de conversaciones que estudia para ser más «humano».

El algoritmo que utiliza Lee Luda no necesita control humano. Esto significa que, con inteligencia artificial, puede «aprender» cómo funcionar de forma automática y sin que las personas lo controlen todo el tiempo. Sin embargo, esto presenta un desafío: ¿cómo automatizar un proceso de aprendizaje sin que se aprendan contenidos violentos o sexistas?

 

Más dilemas de la inteligencia artificial

Como contamos en este artículo, existen algoritmos utilizados para autorellenar imágenes que crean fotos de mujeres con poca ropa, mientras que a los hombres les pone traje. Investigadores que trabajan en estos temas pidieron una mayor transparencia a las empresas que están desarrollando estos algoritmos.

Solicitaron que sean abiertos y que dejen que la comunidad académica continúe con sus investigaciones para mejorarlos. Su intención es que se logre reducir el sexismo y la violencia en estos procesos de inteligencia artificial.

¿Qué futuro estamos creando?

 

También podría interesarte:

Post Views: 106
#discursos de odio#homofobia#inteligencia artificial#sexismo#tecnología#violencia

  • Shows

    VIDEOCOLUMNAS
    Heei
    Una habitación propia
    Gente define
    El Plug

  • Síguenos

  • 🔥 Watch this

    El derecho a la eutanasia avanza en Latinoamérica
    Protestas y represión en Perú, luego de la destitución...
    Si Trump pierde las elecciones, le espera una pesadilla...




Terms Privacy policy
PLAYGROUND AMERICAS LLC ©2020 All rights reserved
Síguenos
Newsletter

He leído y acepto la Política de privacidad y el tratamiento de mis datos personales.

Terms Privacy policy
PlayGround comunications ©2029 ole comunications. All rights reserved

Share

Share stories you like to your friends