El investigador de Anthropic que renunció por miedo a la IA: “las cosas podrían salirse de control el próximo año”
Jacob Coxon dejó OpenAI por Anthropic debido a su reputación en el campo de la seguridad de IA. Ahora se retira de la industria.
Las opiniones expresadas por los colaboradores de Entrepreneur son personales.
Cuando las personas que construyen la inteligencia artificial (IA) empiezan a alejarse por miedo, es momento de prestar atención.
Jacob Coxon, investigador de Anthropic que anteriormente trabajó para OpenAI, está abandonando la industria de la IA por su preocupación de que las empresas están compitiendo para construir sistemas que eventualmente podrían volverse imposibles de controlar. “Vamos en camino hacia muchos de los escenarios más agresivos”, dijo Coxon a The Wall Street Journal, advirtiendo que para finales del próximo año, “las cosas podrían salirse de control”.
Coxon salió de OpenAI a principios de este año para unirse a Anthropic por la reputación de la empresa en seguridad en torno a la IA. Pero ahora cree que ni siquiera Anthropic puede perseguir de manera responsable una IA capaz de superar a los humanos en una amplia gama de tareas sin intervención gubernamental o una desaceleración a nivel de toda la industria.
Evan Hubinger, líder del equipo de ciencia de alineación de Anthropic, publicó un tuit en apoyo a Coxon que ha acaparado titulares a nivel nacional. “Realmente creemos que la IA podría matar a toda la humanidad. Personalmente pienso que hay más de un 10% de probabilidad de que esto suceda en la próxima década”, escribió.
No son los primeros expertos de la industria de la IA en marcharse con preocupaciones serias. Investigadores y ejecutivos de OpenAI, Anthropic y xAI han dejado sus puestos por temores similares relacionados con la seguridad, la ética y el ritmo acelerado de la industria. El científico de Anthropic Evan Hubinger respaldó la advertencia de Coxon, escribiendo que cree que existe una probabilidad mayor al 10% de que la IA pueda acabar con la humanidad en la próxima década.
Relacionado: Más de 200 economistas advierten sobre los riesgos de la IA para el empleo
Cuando las personas que construyen la inteligencia artificial (IA) empiezan a alejarse por miedo, es momento de prestar atención.
Jacob Coxon, investigador de Anthropic que anteriormente trabajó para OpenAI, está abandonando la industria de la IA por su preocupación de que las empresas están compitiendo para construir sistemas que eventualmente podrían volverse imposibles de controlar. “Vamos en camino hacia muchos de los escenarios más agresivos”, dijo Coxon a The Wall Street Journal, advirtiendo que para finales del próximo año, “las cosas podrían salirse de control”.
Coxon salió de OpenAI a principios de este año para unirse a Anthropic por la reputación de la empresa en seguridad en torno a la IA. Pero ahora cree que ni siquiera Anthropic puede perseguir de manera responsable una IA capaz de superar a los humanos en una amplia gama de tareas sin intervención gubernamental o una desaceleración a nivel de toda la industria.
Evan Hubinger, líder del equipo de ciencia de alineación de Anthropic, publicó un tuit en apoyo a Coxon que ha acaparado titulares a nivel nacional. “Realmente creemos que la IA podría matar a toda la humanidad. Personalmente pienso que hay más de un 10% de probabilidad de que esto suceda en la próxima década”, escribió.
No son los primeros expertos de la industria de la IA en marcharse con preocupaciones serias. Investigadores y ejecutivos de OpenAI, Anthropic y xAI han dejado sus puestos por temores similares relacionados con la seguridad, la ética y el ritmo acelerado de la industria. El científico de Anthropic Evan Hubinger respaldó la advertencia de Coxon, escribiendo que cree que existe una probabilidad mayor al 10% de que la IA pueda acabar con la humanidad en la próxima década.
Relacionado: Más de 200 economistas advierten sobre los riesgos de la IA para el empleo
