A inicios de septiembre trascendió que Jacob Coxon renunció a Anthropic, dejando sus funciones asociadas al desarrollo de capacidades de los modelos de inteligencia artificial (IA). A su juicio, la competencia por llegar a una inteligencia artificial superinteligente y capaz de mejorarse a sí misma pone en evidencia que las empresas no están actuando responsablemente. A su manera de ver las cosas, en el decurso natural de los acontecimientos, este tipo de IA podría producir consecuencias catastróficas, incluso la extinción humana.
Hacia la misma dirección apuntan las renuncias de Bilal Chughtai y de Josh Engels a Google DeepMind. El primero denunció el aumento extraordinario y rápido de las capacidades de la IA, sin que el problema de alineamiento (i.e., la compatibilidad de la herramienta con los valores humanos) esté resuelto; el segundo, indicó que los intereses en juego en este momento son muy altos, debido a que la IA podría estar siendo utilizada para producir IA más capaz, generando una espiral de incremento de capacidades que —una vez más— no tiene resuelto lo relativo a la alineación. Incluso, Joe Benton, quien dejó el equipo de seguridad de Anthropic, sostuvo que las empresas están en camino a imponer un nivel de riesgo sin precedentes a la sociedad: una superinteligencia sin control.
Pero Coxon apuntó hacia un fenómeno que, si bien es menos vistoso, es mucho más escalofriante. Indicó que, si bien en OpenAI muchos aún no interiorizan plenamente los riesgos inherentes a este desarrollo, en Anthropic hay más consciencia, pero la empresa está atrapada en una carrera por llegar ahí primero. En otras palabras: se tiene consciencia del costo de perseguir la superinteligencia, pero los desarrolladores lo han abrazado pues, al parecer, existe algo que en apariencia es más valioso que aquello que está en riesgo. Así pues, lo procedente es preguntar: ¿qué es lo que la humanidad considera es lo más valioso? ¿Qué es lo que las empresas —o, incluso, los desarrolladores que trabajan para ellas— consideran más valioso al desarrollar IA? Por tanto, ¿qué es aquello que la IA persigue y perseguirá como lo más importante de todo al desplegar sus capacidades?
La respuesta que se proporcione a esas interrogantes es central. Definirá el espectro de valores y bienes que habrán de ser puestos en segundo plano e, incluso, sacrificados, en aras de alcanzar aquello que se ha puesto en el pináculo de prioridades. Por ejemplo, si lo que se considera más valioso es la competencia por innovar, la velocidad de los procesos, la eficiencia, la preferencia del consumidor, la participación de mercado y las rentas asociadas al “first mover advantage”, todo lo que no responda a ello y se encuentre en tensión habrá de ceder frente a lo que ha sido considerado prioritario. En este ejemplo, el grupo de bienes potencialmente sacrificables con tal de obtener mejores números bien podría incluir no solo el empleo, el salario, los procesos, la historia del negocio y su tradición, sino también cosas que a veces son menos tangibles pero que tienen un peso innegable, como el bienestar de los empleados y el de sus familias, como la dignidad y la vida de quienes, a ojos de un mercado cada vez más eficiente, ya no resultan útiles para la productividad.
En una entrevista publicada hace un año, Tucker Carlson preguntó a Sam Altman (cofundador y CEO de OpenAI) sobre los parámetros morales que han sido introducidos en la tecnología que desarrolla. Con dificultad, Altman proporcionó lo que, a mi manera de ver las cosas, fueron respuestas que, más que buscar verdad, buscaron ser políticamente correctas. No obstante, Tucker presionó objetando que los valores individuales que Altman aprendió de su familia, comunidad, escuela y religión, podrían estarse transmitiendo a millones de personas. En otras palabras, no parece haber una decisión consciente a ese respecto.
Por ello, Altman posteriormente aclaró que no trata de imponer su visión moral personal y refirió que su herramienta debiese reflejar un promedio ponderado de la visión moral de la humanidad. Pero ¿no es esa misma humanidad la que, a lo largo de la historia, también ha adoptado visiones morales divergentes que han llevado a los crímenes más terribles? Quizás, realmente necesitamos más tiempo de reflexión antes de incursionar en un camino que aún no terminamos de entender en su totalidad.
