ChatGPT se limita: OpenAI ya no dará consejos de salud, derecho y finanzas

OpenAI actualizó sus políticas de uso de ChatGPT, con el objetivo de asegurar que su inteligencia artificial se emplee de manera responsable y segura.

Los nuevos ajustes restringen la capacidad de ChatGPT para ofrecer asesoramiento personalizado en áreas que requieren licencia profesional, como las disciplinas médicas, legales y financieras.

Relacionado: Merge Labs: el proyecto de Sam Altman que busca fundir el cerebro humano con la IA

¿Qué persiguen estas nuevas medidas?

Según reportes, esta medida tiene como fin proteger a los usuarios de tomar decisiones erróneas en temas de alto riesgo sin la supervisión de expertos acreditados.

La razón principal de esta actualización es evitar que los usuarios confundan las respuestas generadas por la inteligencia artificial (IA) con la opinión de un profesional especializado.

OpenAI señaló que el propósito de estas restricciones es garantizar que el uso de la tecnología no sustituya la orientación de médicos, abogados o asesores financieros, quienes tienen el conocimiento y las credenciales necesarias para abordar estos temas con la debida responsabilidad.

En cuanto a los sectores específicos que quedan fuera de los servicios de asesoría de ChatGPT, OpenAI mencionó áreas como la salud, el derecho y las finanzas, donde es fundamental contar con la experiencia y la autorización legal para ofrecer consejos personalizados.

Relacionado: Profesionales confían más en la IA cuando le hablan que cuando escriben

La responsabilidad final es del usuario

Asimismo, OpenAI agregó que estas políticas no eximen a los usuarios de sus propias responsabilidades profesionales y éticas. El uso de sus servicios sigue estando sujeto a las leyes y normas que rigen la práctica de cualquier disciplina que implique la toma de decisiones críticas para la vida o el bienestar de las personas. La compañía asegura que los usuarios no deben utilizar su plataforma para tomar decisiones que involucren un alto nivel de riesgo sin la revisión de un profesional competente.

Además de estas restricciones en áreas sensibles, OpenAI enfatizó que la automatización de decisiones de alto riesgo no está permitida. Esto incluye una variedad de sectores como la infraestructura clínica, la educación, la vivienda, el empleo, las finanzas, la seguridad nacional, la migración, y la aplicación del derecho entre otros.

La idea detrás de estas prohibiciones es proteger a las personas de posibles daños derivados de decisiones mal fundamentadas o gestionadas.

La empresa dejó claro que sus nuevas reglas están diseñadas para evitar que sus servicios sean utilizados de manera que puedan afectar negativamente los derechos humanos o explotar vulnerabilidades personales.

Relacionado: OpenAI prepara cambios en ChatGPT para permitir contenido erótico entre adultos