Demis Hassabis advierte sobre los riesgos y el futuro incierto de la IA

Un cambio de paradigma en la tecnología

Hace poco más de un año, la inteligencia artificial (IA) era una herramienta emergente que se empezaba a integrar en diversas plataformas tecnológicas. Desde buscadores que ofrecen resultados personalizados hasta aplicaciones que optimizan el uso de recursos energéticos en hogares y empresas, su presencia era notoria pero no predominante. Hoy en día, sin embargo, resulta difícil imaginar un sector tecnológico relevante que no esté experimentando con esta poderosa herramienta.

Hoy nos encontramos ante un escenario donde gigantes tecnológicos como Google, Microsoft y Amazon están compitiendo ferozmente por liderar el mercado de la inteligencia artificial. Las inversiones son astronómicas: solo en 2023, las grandes empresas del sector destinaron miles de millones a desarrollar nuevos chips y centros de datos para soportar estas complejas operaciones. Esta carrera no solo ha transformado el panorama empresarial, sino que también ha captado la atención de gobiernos de todo el mundo, especialmente Estados Unidos y China, que ven en la IA una pieza clave para su futuro económico y estratégico.

La advertencia desde dentro del sector

En este contexto acelerado, Demis Hassabis, cofundador y CEO de Google DeepMind, se ha convertido en una voz autorizada para manifestar preocupaciones sobre el rumbo que está tomando la inteligencia artificial. Recientemente galardonado con el Premio Nobel de Química por sus innovaciones en modelado estructural proteico, su opinión pesa considerablemente porque representa tanto a los creadores de esta tecnología como a uno de sus más inquietantes críticos.

Hassabis expresa su inquietud acerca del potencial avance hacia lo que él denomina ”inteligencia artificial general” (AGI), un sistema con capacidades cognitivas similares a las humanas. Señala que esta transición podría suceder mucho más pronto de lo esperado. Aunque su mensaje es cauteloso —y no se presenta como una amenaza inminente— hace hincapié en que esperar a ver cómo se desarrolla esta tecnología podría ser arriesgado. Por ejemplo, menciona posibles impactos en áreas tan críticas como ciberseguridad o incluso implicaciones biológicas y nucleares que podrían cambiar nuestra forma de vida.

¿Es suficiente una regulación efectiva?

Frente a esta aceleración tecnológica y a los desafíos derivados del mismo desarrollo, Hassabis plantea la creación de un organismo regulador especial en Estados Unidos para evaluar los modelos más avanzados de inteligencia artificial antes de su lanzamiento al mercado. Este enfoque busca implementar una estructura público-privada donde expertos independientes trabajarían junto a representantes del sectores involucrado para establecer normas claras sobre qué constituye un modelo “de frontera” capaz de presentar riesgos significativos.

Los detalles aún son vagos pero sugieren una revisión continua y exhaustiva: pruebas periódicas para medir nuevas capacidades y auditorías independientes para garantizar que se cumplan los estándares establecidos. Esto podría llegar a ser crucial en un entorno donde cada vez más actores desean aprovechar las ventajas competitivas que ofrece la IA. Sin embargo, surgen dudas sobre si dicho marco tendrá suficiente fuerza coercitiva para obligar a los laboratorios a cumplir con estas normativas cuando sus intereses comerciales puedan estar en juego.

Aunque muchos expertos advierten sobre el peligro potencial inherente al desarrollo descontrolado de la IA, existe cierta discrepancia respecto al grado real del riesgo.

Aparte del propio Hassabis, personalidades reconocidas como Geoffrey Hinton han expresado preocupaciones similares sobre si podremos mantener el control sobre sistemas más inteligentes que nosotros. Curiosamente, algunas propuestas recientes han buscado pausar temporalmente el desarrollo AI hasta encontrar mecanismos adecuados para regularla eficazmente; sin embargo, esto también levanta interrogantes sobre quiénes realmente podrían beneficiarse o verse perjudicados por dicha medida.

A medida que nos adentramos aún más en esta era tecnológica llena de promesas y peligros potenciales, es esencial acercarse a esta revolución con precaución e incertidumbre constructiva. La historia todavía se está escribiendo mientras debatimos medidas adecuadas antes de llegar al punto sin retorno; es fundamental estar preparados para adaptarnos ante los cambios que vendrán y observar cómo esta herramienta transformadora seguirá influenciando nuestras vidas diarias.