¿Puede la inteligencia artificial acabar con la humanidad?

Una reflexión sobre los riesgos de la inteligencia artificial, la responsabilidad humana y el papel de universidades, empresas y gobiernos.

Sí. Pero hay una triste realidad: incluso sin inteligencia artificial, los seres humanos ya hemos demostrado que tenemos una enorme capacidad para destruirnos a nosotros mismos. Armas nucleares, guerras, amenazas biológicas, deterioro ambiental…etc.

La IA no inventó el riesgo de que la humanidad pueda causar su propia destrucción. Lo que sí está haciendo es poner en nuestras manos una tecnología con un poder que apenas empezamos a dimensionar y con una característica que la hace diferente: la IA es la primera herramienta creada por el ser humano con capacidad para tomar decisiones por sí misma.

¿Por qué la inteligencia artificial puede representar un riesgo para la humanidad?

La renuncia de un investigador de Anthropic volvió a poner sobre la mesa uno de los escenarios más extremos: que sistemas de IA cada vez más autónomos y poderosos puedan llegar a representar un riesgo para nuestra propia existencia.

Debemos tomarnos esa posibilidad en serio, pero sin caer en el alarmismo.

La pregunta realmente importante es: ¿qué podemos y debemos hacer desde nuestro campo de acción?

Desde las universidades, por ejemplo, podemos avanzar en acciones muy concretas:

• Promover lineamientos para un uso ético, responsable y sostenible de la inteligencia artificial.
• Formar a estudiantes, profesores y colaboradores para que comprendan no solo cómo utilizarla, sino también sus riesgos, implicaciones y límites.
• Investigar sus impactos y aportar evidencia que nos permita tomar mejores decisiones.
• Participar activamente en los foros donde se está definiendo el futuro de la IA y contribuir a una regulación que proteja a las personas sin frenar la innovación.
• Y, sobre todo, trabajar juntas. Estos desafíos son demasiado grandes para que cada universidad intente enfrentarlos por su cuenta.

¿Necesitamos principios globales para regular la inteligencia artificial?

Pero hay decisiones de mucho mayor alcance que trascienden a la educación y que también debemos promover. Una de ellas es avanzar hacia principios globales de obligatorio cumplimiento para el desarrollo de la inteligencia artificial.

Las grandes empresas que desarrollan los sistemas de IA más avanzados y los gobiernos necesitan construir acuerdos sobre los límites que estos sistemas nunca deberían cruzar.

Y quizás uno de esos acuerdos debería partir de un principio tan sencillo de expresar como complejo de garantizar: No importa qué objetivo persiga una IA, qué tan autónoma llegue a ser o qué tan poderosa se vuelva: nunca debe causar daño a un ser humano.

El verdadero desafío será convertir ese principio en estándares, regulación y mecanismos técnicos verificables que puedan aplicarse globalmente.

El mayor riesgo de la inteligencia artificial también puede ser humano

Porque quizás el mayor riesgo no sea que las máquinas se vuelvan demasiado inteligentes. Quizás el mayor riesgo es que los seres humanos no seamos suficientemente responsables con el poder que estamos creando.