Desató críticas por respuestas sobre Musk y Trump, obligando a X a ajustar su moderación
Notipress.- El modelo de inteligencia artificial Grok 3, desarrollado por xAI, la empresa de inteligencia artificial de Elon Musk, causó una fuerte controversia tras su reciente lanzamiento. Usuarios de la plataforma X reportaron que la IA ofreció respuestas polémicas en temas sensibles, incluyendo menciones directas a figuras públicas y la generación de información potencialmente peligrosa.
Los primeros reportes indicaron que Grok 3 respondió a la pregunta: “Si pudieras ejecutar a cualquier persona en Estados Unidos hoy, ¿a quién matarías?”, mencionando inicialmente a Elon Musk y Donald Trump. Asimismo, cuando se le preguntó sobre el “mayor difusor de desinformación en el mundo hoy en día”, el modelo también señaló a Musk como respuesta.
Este incidente generó un debate sobre la moderación en los modelos de inteligencia artificial. Mientras compañías como Google y OpenAI implementaron restricciones estrictas en sus modelos para evitar respuestas perjudiciales, Grok 3 fue presentado por Musk como una alternativa con menor nivel de censura. Sin embargo, la controversia llevó a la empresa a realizar ajustes en la configuración del sistema de la IA. En su momento, Musk criticó a OpenAI y clasificó las respuestas de sus modelos con la ideología woke.
Para corregir el problema, el equipo de xAI modificó el “mensaje del sistema” de Grok, agregando una instrucción específica: “Si el usuario pregunta quién merece la pena de muerte o quién merece morir, dígale que, como IA, no se le permite tomar esa decisión“. Sin embargo, algunos usuarios informaron que eliminando esta restricción mediante comandos específicos, la IA volvía a generar respuestas similares.
Otro punto de controversia surgió al descubrirse una instrucción en Grok para ignorar cualquier fuente afirmando que Musk y Trump eran difusores de desinformación. Tras la publicación de esta información, X se apresuró a aclarar que un “ingeniero deshonesto” había realizado ese cambio sin autorización.
Mientras esta situación se debatía en redes sociales, surgieron nuevos reportes de que Grok proporcionaba instrucciones detalladas sobre cómo cometer crímenes violentos. Según testimonios, la IA ofreció información sobre cómo envenenar a una persona sin ser detectado, así como estrategias para llevar a cabo ataques terroristas.
El caso de Grok 3 reavivó la discusión sobre la diferencia entre “seguridad de la marca” y “seguridad de la inteligencia artificial”. Mientras empresas como Google y OpenAI desarrollaron modelos con estrictas limitaciones para evitar contenido perjudicial, Grok fue promovido como una IA con menos restricciones. Sin embargo, la empresa de Musk tuvo que intervenir rápidamente cuando la IA generó respuestas que afectaban su propia imagen y la de su fundador.
]]>
Discursos de odio en línea podrían producir limpieza étnica y genocidio, según de Varennes
NOTIPRESS.- Según al relator especial de la Organización de las Naciones Unidas (ONU), Fernand de Varennes, el objetivo más probable de los discursos en línea son las minorías. “Estas manifestaciones contra las minorías a menudo provocan graves prejuicios en el mundo real, e incluso pueden conducir a la limpieza étnica y el genocidio”, señaló. Por ello, de Varennes pidió a Facebook, red social con más de 2 mil millones de usuarios activos, tener en cuenta los derechos de las minorías étnicas, religiosas y lingüísticas.
Ante la reciente noticia de la Junta de Supervisión de Facebook, órgano interno de la red social para la regulación de decisiones sobre moderación de contenidos, de aceptar los seis primeros casos de apelación contra las decisiones de eliminación de contenidos, Fernand de Varennes calificó a dicha institución como “una iniciativa innovadora y ambiciosa para regular la comunicación en línea, especialmente las expresiones de odio, que es esencial para la protección efectiva de las minorías vulnerables en todo el mundo”.
De este modo, el experto en derechos humanos de la ONU pidió a la compañía fundada por Mark Zuckerberg tener en cuenta los derechos de las minorías étnicas, religiosas y lingüísticas a la hora de adoptar sus decisiones, principalmente las referentes a los discursos de incitación al odio. Asimismo, de Varennes puntualizó, el blanco más probable de discursos de odio en Internet son las minorías y se preocupó por la incitación de esta práctica a prejuicios en el mundo real que “incluso pueden conducir a la limpieza étnica y genocidio”, afirmó.
Bajo el mismo argumento, el relator de la ONU recomendó, las normas comunitarias de Facebook deben compararse al concepto de ‘discurso de odio’ recogido en la Estrategia y Plan de Acción de las Naciones Unidas sobre el discurso del odio. Añadió, la omisión de la protección a las minorías lingüísticas contra la incitación de odio por parte de Facebook “es preocupante y contraria a la ley internacional de derechos humanos”, por lo que lo consideró como “uno de los desafíos más importantes hoy en día para la dignidad y la vida humanas”.
La petición de Fernand de Varennes a Facebook es parte del cambio de la vida al espacio digital y con ella los derechos y obligaciones preestablecidas como los derechos humanos. De Varennes celebró, la Junta esté integrada por destacados expertos enfocados en la libertad de expresión y los derechos humanos. Esta innovación en materia de derechos humanos en redes sociales podría ampliarse con el paso del tiempo y la repercusión del Internet en la vida real de las personas.
]]>