La IA se populariza cada vez más como terapeuta, esto causa cuestionamientos éticos entre los expertos
Notipress.- Los avances en inteligencia artificial llevaron a la creación de chatbots diseñados para interactuar con usuarios en diversas situaciones. Lo que inició con preguntas de cultura general rápidamente pasó a la oportunidad de asignar trabajos administrativos densos y tediosos. Sin embargo, esta herramienta se está utilizando también como apoyo emocional.
Uno de las plataformas dedicadas específicamente a esto último es Therapist GPT, un chatbot programado para escuchar, ofrecer consejos y proporcionar estrategias de afrontamiento a quienes lo necesitan. Aunque este tipo de tecnología no reemplaza la terapia profesional, cada vez más personas exploran su uso como una herramienta complementaria para su bienestar emocional.
Mya Dunham, una joven de 24 años de Atlanta, le comentó a CNN que recurrió a un chatbot como alternativa para expresar sus sentimientos. Según explica, prefiere la interacción con un bot porque no genera la incomodidad de ser juzgada. Dunham asegura haber encontrado en este sistema una perspectiva distinta y un espacio accesible para hablar sin restricciones. No obstante, este fenómeno también despierta dudas. Al compartir su experiencia en redes sociales, algunos usuarios apoyaron su elección, mientras que otros cuestionaron la confiabilidad y ética de estos programas.
De acuerdo con los expertos en salud menta, tienen tantos beneficios como riesgos. Según el Dr. Russell Fulmer, experto en inteligencia artificial aplicada a la psicología, los chatbots pueden ser útiles en casos de ansiedad o depresión leves, pero enfatiza que deberían utilizarse en combinación con un terapeuta humano. Fulmer subraya que estas herramientas carecen de las habilidades complejas de empatía y análisis profundo que un terapeuta humano puede ofrecer.
Por su parte, la Dra. Marlynn Wei, psiquiatra con experiencia en aplicaciones tecnológicas, señala que los chatbots generales pueden carecer de parámetros de seguridad adecuados y, en ocasiones, proporcionar información incorrecta. Esto plantea desafíos éticos y prácticos, especialmente para usuarios menores de edad o en situaciones de vulnerabilidad. Empresas como Character.AI enfrentaron demandas por presuntos daños causados por sus chatbots.
A pesar de estas preocupaciones, algunos consideran que los chatbots son una opción accesible para quienes enfrentan barreras económicas o logísticas para acceder a terapia profesional. Estas herramientas, disponibles las 24 horas, podrían representar una alternativa válida en determinados casos, siempre que los usuarios sean conscientes de sus limitaciones.
El psiquiatra Dr. Daniel Kimmel, quien estudió el comportamiento de chatbots en sesiones simuladas, destaca que estos sistemas pueden reproducir técnicas terapéuticas básicas. No obstante, recalca que su capacidad de comprensión y personalización sigue siendo limitada en comparación con la interacción humana.
]]>
Innovación tecnológica redefine prioridades al integrar derechos humanos y sostenibilidad en el diseño digital
Notipress.- El diseño centrado en las personas está transformando la manera en que las tecnologías emergentes se desarrollan e implementan, priorizando los derechos humanos, la accesibilidad y la sostenibilidad social. Esta perspectiva es esencial para garantizar que las innovaciones digitales tengan un impacto positivo en la sociedad, promoviendo valores de privacidad, transparencia e inclusión.
Se puede ver en la publicación Defining & Building the Metaverse Initiative, como exploran los principios fundamentales para integrar estos valores en el ciclo de vida tecnológico. Este diseño no solo busca mejorar la experiencia del usuario, sino también abordar dilemas éticos y sociales. Por ejemplo, prácticas comunes como el uso de cookies para personalizar interacciones digitales pueden comprometer la privacidad de los usuarios, una tensión la cual debe gestionarse cuidadosamente.
La accesibilidad es un componente esencial en este paradigma de diseño. Las interfaces deben adaptarse a las diversas necesidades de los usuarios, incorporando tecnologías de asistencia y elementos que reflejen la diversidad cultural, social y lingüística. Estas características permiten experiencias inclusivas y fomentan la equidad en la interacción con herramientas digitales.
Además, las prácticas de gobernanza juegan un rol crucial. Políticas claras y controles estrictos deben guiar el diseño tecnológico, estableciendo estándares que aseguren la protección de los derechos humanos y la transparencia en el uso de datos.
El metaverso es un claro ejemplo de la integración del diseño centrado en las personas en tecnologías emergentes. Realidades extendidas, entre ellas la realidad aumentada (RA) y la realidad mixta (RM), están revolucionando la forma en que los usuarios interactúan con el entorno digital. Dispositivos como Apple Vision Pro ofrecen experiencias inmersivas fusionando lo físico y lo digital, mientras que plataformas como Character.ai generan interacciones basadas en inteligencia artificial.
Imaginemos un escenario donde, desde la sala de estar, es posible realizar múltiples actividades en entornos virtuales: participar en chats grupales con amigos reales y digitales, proyectar hologramas para tareas cotidianas o disfrutar de eventos en vivo a través de realidad aumentada. Estas experiencias muestran la importancia de un diseño ético que contemple el impacto social de estas tecnologías.
A medida que el internet evoluciona, el diseño centrado en las personas debería pasar de ser una excepción a convertirse en la norma. Este abordaje garantiza que las tecnologías digitales no solo sean funcionales, sino también responsables y sostenibles. La gobernanza independiente y el compromiso con valores fundamentales podrían ser esenciales para construir un futuro digital inclusivo y respetuoso con los derechos humanos.
]]>