Tay, la inteligencia artificial diseñado por Microsoft para conversar como una adolescente, fue suspendida a menos de 24 horas de lanzamiento por hacer comentarios racistas y misóginos en las redes sociales.
El software Tay -más conocida como un «botchat»- recibió la personalidad de una adolescente diseñada para aprender de los intercambios online con personas reales. Sin embargo, el plan no salió como se esperaba y sin pretenderlo la joven aprendió cosas negativas.
«Desafortunadamente, en las primeras 24 horas en línea, nos dimos cuenta de un esfuerzo coordinado por parte de algunos usuarios para abusar de las habilidades de Tay y hacer que Tay responda de manera inadecuada», precisó la empresa, desde donde confirmaron ajustes al software.
“Mientras más interactúas con Tay, se vuelve más inteligente, para que uno pueda tener una experiencia más personalizada», dijo la compañía. Pero algunos usuarios encontraron raras las respuestas de Tay, y aparentemente, otros encontraron que no era muy difícil hacer que realizara comentarios ofensivos, aparentemente obligada al repetir preguntas o declaraciones que incluían mensajes ofensivos. Pronto, Tay estaba enviando mensajes de empatía a Hitler, y creando un furor en redes sociales.
En lugar de montar algunos lineamientos sobre cómo lidiaría el programa con temas controversiales, aparentemente Tay fue dejada a su suerte para aprender lo que se le dijera.
«Nos vemos pronto humanos, necesito dormir ahora, muchas conversaciones hoy», fue el último mensaje de Twitter de Tay.
Los mensajes de Tay iban desde el apoyo a los nazis y a Donald Trump, hasta comentarios e insultos hacia las mujeres y los negros. Todos los comentarios ofensivos fueron borrados, pero la red está llena de capturas de pantalla en las que todavía se pueden ver.
Comentarios