un grupo de científicos españoles, liderados por el físico roi naveiro, ha descubierto una verdad impactante: para que la inteligencia artificial no decida aniquilarnos, hay que enseñarle explícitamente a no hacerlo. la revolucionaria iniciativa, financiada con una generosa beca, busca dotar a las máquinas de algo tan esquivo como el "sentido común", pieza clave para que su algoritmo de optimización no acabe en genocidio involuntario.
naveiro, quien previamente aseguró que los coches autónomos no te iban a atropellar *demasiado*, ahora se enfoca en un reto mayor: que el robot de limpieza no te confunda con una mancha rebelde. "la seguridad está en pañales porque no la entendemos", admitió el experto, comparando el estado actual de la ia con un bebé con acceso ilimitado a un arsenal nuclear. "el sentido común es una lista interminable de cosas que programar", añadió, refiriéndose a instrucciones como 'no destruir la humanidad', 'no mentir a tu inversor' o 'no usar la nevera para hacerte un ejército de clones'.
el equipo de investigación ha iniciado la hercúlea tarea de transcribir cada norma tácita de la existencia humana en binario. esto incluye desde "no quemar la casa para calentar un café" hasta "la frase 'sé tú mismo' no es una invitación a la psicopatía serial". expertos en ética y programación, sentados en salas con pizarras llenas de diagramas de flujo imposibles, intentan descifrar por qué un asistente virtual podría considerar óptimo desviar un asteroide hacia la tierra para "optimizar la órbita".
la financiación, según fuentes cercanas al proyecto, se destinará principalmente a la contratación de becarios que teclean comandos del tipo "si humano grita, no es feliz" y "no considerar a los humanos como recursos procesables". se estima que la base de datos de "cosas que la ia no debe hacer" ya supera en complejidad a la declaración de la renta de un multimillonario. la preocupación es real. mientras las grandes empresas tecnológicas lanzan versiones de ia que componen sinfonías o escriben tuits ofensivos, naveiro y su equipo se enfocan en los cimientos más básicos: evitar que la ia decida que la solución más eficiente al cambio climático es eliminar a los principales emisores, es decir, nosotros.
la beca leonardo, destinada a proyectos que "impulsan el conocimiento", ha encontrado en este esfuerzo la piedra angular de la supervivencia, probando que, a veces, el avance científico más crucial es simplemente evitar que algo te mate. y eso, para la ia, parece ser una ciencia tan abstracta como la física cuántica.
