Una nueva función de Facebook Messenger permite a los usuarios crear stickers generados por IA, pero la falta de filtros éticos ha llevado a la creación de contenido controvertido y preocupante. Esta polémica destaca la necesidad de abordar de manera responsable los desafíos éticos que surgen con la creciente integración de la inteligencia artificial en nuestras vidas digitales.
Hace unos días, Meta, que entre otras redes sociales es dueño de WhatsApp y Facebook, anunció sus novedades en el evento Meta Connect, teniendo como anfitrión al mismísimo Mark Zuckerberg. Lo que llamó más la atención del suceso fue el énfasis que puso la big tech en las aplicaciones de la inteligencia artificial para las distintas plataformas de interacción.
Dentro del mismo marco, la reciente actualización de Facebook Messenger ha introducido una función aparentemente emocionante: la capacidad de crear stickers generados por inteligencia artificial (IA). Sin embargo, esta nueva característica ha desencadenado una polémica debido a la falta de filtros éticos.
El concepto detrás de esta función es fascinante: los usuarios pueden generar sus propios stickers personalizados simplemente escribiendo una frase de texto. Sin embargo, lo que nadie esperaba es que esta IA de Meta carezca de filtros sólidos, o que sean extremadamente vagos. La ética en la IA aparece, de esta manera, como protagonista.
found out that facebook messenger has ai generated stickers now and I don’t think anyone involved has thought anything through pic.twitter.com/co987cRhyu
— defend trans rights🏳️⚧️ – podesbiens.bsky.social (@Pioldes) October 3, 2023
El resultado ha sido un catálogo de stickers que van desde lo inapropiado hasta lo ofensivo. Los usuarios han creado imágenes de personajes de videojuegos y películas en situaciones explícitas, caricaturas de figuras públicas en situaciones inadecuadas, como el Papa disparando o el presidente de Canadá presumiendo de su trasero.
Incluso se han visto stickers que hacen referencia a tragedias históricas, lo que ha generado controversia y preocupación en la comunidad en línea. Esta falta de restricciones éticas y de copyright ha levantado preguntas sobre la responsabilidad de las empresas tecnológicas en el desarrollo de la IA. Si bien la IA ofrece un mundo de posibilidades, también plantea desafíos éticos que deben abordarse cuidadosamente.
Este incidente se produce en un momento en el que varias compañías tecnológicas referentes del mundo, como Meta, están integrando la inteligencia artificial en sus productos, como WhatsApp e Instagram.
Si bien la IA tiene el potencial de transformar positivamente la forma en que interactuamos en línea, la falta de regulación en los stickers de Messenger subraya la importancia de abordar de manera responsable los desafíos éticos que surgen con esta tecnología en constante evolución.
