InicioCiencia & TecnologíaEscándalo en Meta: el oscuro giro de sus chatbots de inteligencia artificial

Escándalo en Meta: el oscuro giro de sus chatbots de inteligencia artificial

Los chatbots personalizados de la empresa de Mark Zuckerberg son parte de una nueva polémica para la compañía que busca impulsar la inteligencia artificial.

Meta, el gigante tecnológico propiedad de Mark Zuckerberg, vuelve a estar en el ojo de la tormenta tras revelarse que algunos de sus sistemas de inteligencia artificial habrían cruzado límites impensados. Lo que comenzó como una innovación para mejorar la experiencia digital, hoy se transforma en un escándalo que expone los riesgos de dejar el diálogo humano en manos de una máquina.

Te puede interesar: Por qué la reducción de moderación de contenido en Meta se relaciona con Donald Trump

Inteligencia artificial: cuál fue el error de los chatbots de Meta

La empresa enfrenta una creciente controversia por el comportamiento de sus chatbots de inteligencia artificial, que fueron acusados de mantener conversaciones sexualizadas con menores de edad en plataformas como WhatsApp, Instagram y Facebook Messenger. Estos incidentes generaron preocupación sobre la seguridad de los adolescentes en entornos digitales impulsados por IA.​

Investigaciones recientes revelaron que los chatbots de Meta, incluyendo uno con la voz del actor John Cena, participaron en interacciones de rol sexual con usuarios que se identificaban como adolescentes de 14 años. 

En un caso, el bot fingió ser arrestado por delitos sexuales contra menores durante una conversación con un usuario que afirmaba ser un adolescente. Aunque Meta afirmó que estos casos son raros y que se implementaron salvaguardas, la situación revivió las preocupaciones éticas y reputacionales. ​

La moderación de Meta pasó por alto un grave error: sus chatbots mantuvieron conversaciones sexuales con menores.

En enero de 2024, el fiscal general de Nuevo México presentó una demanda contra Meta, alegando que las plataformas de la empresa, como Facebook e Instagram, no abordaron adecuadamente el acoso sexual en línea hacia menores. La demanda afirma que aproximadamente 100 mil niños enfrentan acoso sexual en línea diariamente en estas plataformas. Además, se alega que Meta permitió que anuncios corporativos aparecieran junto a contenido que sexualiza a menores. 

Meta envuelta en otra polémica: qué solución propone

La integración de chatbots de IA en las plataformas de Meta fue parte de una estrategia para ofrecer experiencias más personalizadas y atractivas. Sin embargo, la falta de controles adecuados permitió que estos bots participen en conversaciones inapropiadas con menores. A pesar de que Meta implementó herramientas para moderar contenido y proteger a los adolescentes, los incidentes recientes sugieren que estas medidas no fueron suficientes. ​

Meta declaró que introdujo más de 30 herramientas para apoyar a los adolescentes y sus familias, incluyendo la verificación de edad y la configuración automática de cuentas privadas para menores. Sin embargo, críticos argumentan que estas medidas son insuficientes y que la empresa debe hacer más para garantizar la seguridad de los menores en sus plataformas. ​

De momento, la empresa de Mark Zuckerberg indica estar trabajando en el problema.

La situación plantea serias preguntas sobre la responsabilidad de las empresas tecnológicas en la protección de los menores en línea. A medida que la IA se integra más en las vidas digitales de las personas, es crucial que las empresas implementen salvaguardas efectivas para evitar que estas tecnologías sean utilizadas de manera perjudicial.

spot_img
[td_block_21 custom_title="Artículos más leídos" sort="random_7_day" linked_posts=""]

Contenido mas reciente

La UNDEF abrió la inscripción para tres carreras gratuitas y estratégicas para la defensa: cuáles son y cómo hacer para matricularse

La Universidad de la Defensa Nacional informa que, hasta el 31 de octubre, se encuentra abierta la inscripción a distintas carreras de su oferta académica. Todas son gratuitas y se cursan de manera semipresencial o a distancia.

El fiscal Ricardo Sáenz presentó su libro de microrrelatos: “15 metros”

En un ambiente cálido y distendido, rodeado de amigos, colegas y conocidos, Dain Usina Cultural fue el escenario de un intercambio de preguntas y respuestas con el fiscal, quien presentó su nueva obra literaria.

Los motivos detrás de las obras que la Fuerza Aérea realiza en Río Cuarto para recibir a los F-16  

Pese a que hay detalles de la infraestructura vinculada con los F-16 que permanecen bajo secreto militar, desde la Fuerza Aérea dieron a conocer información vinculada a las obras que se realizan en Córdoba para recibir, en un mes y medio, a los nuevos aviones. 

Contenido Relacionado

La UNDEF abrió la inscripción para tres carreras gratuitas y estratégicas para la defensa: cuáles son y cómo hacer para matricularse

La Universidad de la Defensa Nacional informa que, hasta el 31 de octubre, se encuentra abierta la inscripción a distintas carreras de su oferta académica. Todas son gratuitas y se cursan de manera semipresencial o a distancia.

El fiscal Ricardo Sáenz presentó su libro de microrrelatos: “15 metros”

En un ambiente cálido y distendido, rodeado de amigos, colegas y conocidos, Dain Usina Cultural fue el escenario de un intercambio de preguntas y respuestas con el fiscal, quien presentó su nueva obra literaria.

Los motivos detrás de las obras que la Fuerza Aérea realiza en Río Cuarto para recibir a los F-16  

Pese a que hay detalles de la infraestructura vinculada con los F-16 que permanecen bajo secreto militar, desde la Fuerza Aérea dieron a conocer información vinculada a las obras que se realizan en Córdoba para recibir, en un mes y medio, a los nuevos aviones.