Introducción
Desde hace tiempo venimos escuchando que introducir la sociología en el desarrollo de la inteligencia artificial (IA) es importante para entender las implicaciones sociales y éticas de estas tecnologías. La idea que subyace es que la sociología es útil a-posteriori, o sea, una vez que la tecnología ya está “suelta” por el mundo, para entender su impacto y mitigar sus posibles consecuencias negativas.
El artículo de Harry Collins del que hoy hablamos lleva esta cuestión más lejos y otorga a la sociología un papel central en el desarrollo de las IA. En resumen, su argumento es que la inteligencia humana es inherentemente social, y para que cualquier IA alcance una inteligencia similar a la humana, debe ser entrenada mediante la socialización.
La inteligencia es colectiva
Según el autor, una de las principales limitaciones de las inteligencias artificiales actuales radica en la definición de "conocimiento" subyacente a su desarrollo. Comúnmente, se percibe la inteligencia como un conjunto de datos e información, junto con las operaciones complejas que realizamos con ellos, todo almacenado en un receptáculo individual (la mente humana).
En cambio, el autor, como sociólogo, nos explica que la inteligencia es un fenómeno colectivo, resultado de un proceso de socialización, y no una operación avanzada confinada en la mente de un individuo.
En efecto, la socialización humana, que comienza desde "la más tierna infancia", implica la adquisición de conocimientos tácitos y valores morales que las máquinas no pueden replicar simplemente aprendiendo de internet.
También es fractal
Este proceso de socialización ocurre en diferentes niveles y grupos de la sociedad, siguiendo un modelo fractal.
El modelo fractal de la sociedad se basa en la idea de que las estructuras sociales y el conocimiento se organizan de manera similar a fractales, con patrones repetitivos a distintas escalas. Esto significa que los patrones y dinámicas que observamos en pequeños grupos no están aislados, sino que se reflejan en niveles más amplios de la sociedad.
Collins presenta este modelo como un marco útil para entender cómo el conocimiento y los valores adquiridos a través de la socialización se integran y amplifican a diferentes escalas, un proceso que difiere totalmente de lo que ocurre en el desarrollo de las IA.
Las IA son asociales
A diferencia de los humanos, los modelos de lenguaje de gran tamaño (LLMs) no experimentan la socialización primaria, que es fundamental para adquirir conocimientos y comprensión humanos.
Aunque hoy en día ChatGPT puede responder con una fluidez y convencimiento que hacen parecer sus declaraciones veraces, según el argumento de Collins, está muy lejos de poder calificarse como inteligencia "humana".
En realidad, esta capacidad de generar respuestas tanto verdaderas como inventadas con la misma fluidez revela una completa ausencia de brújula moral, una cuestión de la que los propios desarrolladores de ChatGPT ya han tomado conciencia.
La brújula moral
La falta de brújula moral fue reconocida en anteriores versiones de ChatGPT, lo que llevó a los desarrolladores a optar por una solución a posteriori. Esta consiste en socializar retrospectivamente a los modelos mediante intervención humana para alinearlos con valores aceptados socialmente. Es decir, un grupo de evaluadores humanos revisa y califica las respuestas generadas por el modelo según criterios determinados.
De esta manera, se reconoce que, dada la carencia de socialización originaria, la supervisión humana es crucial para guiar y corregir las respuestas de los LLMs. Por ello, actualmente se utilizan métodos como el aprendizaje por refuerzo con retroalimentación humana (RLHF).
El problema es que, aunque los modelos actuales de LLMs son pre-entrenados, no pueden aprender continuamente de interacciones en tiempo real, lo que limita su capacidad de adaptación.
IA y sociología
Vemos entonces que la integración de la sociología del conocimiento en el desarrollo de la IA va más allá de un simple análisis de los impactos, abarcando un alcance mucho mayor.
Esto, a su vez, plantea nuevas preguntas. Si debemos supervisar las respuestas de las IA para calibrar su brújula moral, la cuestión es quién, cómo y por qué debe asumir esta responsabilidad: ¿los desarrolladores, las instituciones o la sociedad en general? Además, ¿qué nuevos riesgos implica esto? Como siempre, las buenas preguntas suelen traer consigo nuevas incógnitas.
*Ref: Collins, H. Why artificial intelligence needs sociology of knowledge: parts I and II. AI & Soc (2024). https://doi.org/10.1007/s00146-024-01954-8
Harry Collins es sociólogo de la ciencia en la Escuela de Ciencias Sociales de la Universidad de Cardiff, Gales.
