La IA necesita filósofos. ¿Está dispuesta a escucharlos?

Durante mucho tiempo, la pregunta dirigida a quien estudiaba filosofía tenía algo de sentencia:

«¿Y de qué vas a vivir?».

No era solo una pregunta económica. Era una forma de sugerir que ciertas preguntas habían dejado de ser útiles. El bien, la verdad, la responsabilidad, la libertad o el sentido podían ser asuntos nobles. Pero el mundo serio parecía estar en otra parte: la ingeniería, los datos, la programación, la eficiencia, la escala.

Vamos, en los valores que suben y bajan en bolsa. Los que nos edifican como personas podían esperar.

Y entonces llegó la inteligencia artificial.

Cuando no basta con que funcione

Un ejemplo revelador es el de Amanda Askell. Anthropic la identifica como responsable de su trabajo sobre el carácter de Claude y autora principal de su constitución: un documento que orienta el comportamiento que la empresa busca en su asistente.

La presencia de la filosofía en este terreno tiene sentido. Cuando un sistema conversa con millones de personas, no basta con preguntar si responde rápido o si resuelve una tarea.

También hay que decidir cómo debe comportarse.

¿Qué significa ayudar? ¿Cuándo una respuesta puede hacer daño? ¿Cómo reconocer la incertidumbre? ¿Qué diferencia hay entre acompañar a alguien y fomentar su dependencia?

La tecnología que parecía confirmar el triunfo de lo técnico nos devuelve a preguntas que las humanidades llevan mucho tiempo trabajando.

No se han vuelto importantes de repente. Ahora resulta más difícil esquivarlas.

Las decisiones técnicas también contienen valores

Una IA puede sugerir, resumir, corregir, recomendar y persuadir. Puede intervenir en cómo estudiamos, trabajamos, nos informamos o interpretamos una dificultad personal.

Las decisiones sobre su diseño y su uso tienen consecuencias humanas.

Al definir qué respuestas se consideran seguras, se adopta una idea de daño y protección. Al elegir el tono, se configura una forma de relación. Al decidir qué se recomienda y qué se omite, se establecen prioridades.

Hablar de «carácter» o de «valores» de un modelo no demuestra que tenga una vida moral interior. Estamos hablando, ante todo, del comportamiento que sus responsables intentan producir y de los criterios con los que lo evalúan.

Precisamente por eso hay que preguntar quién elige esos criterios, cómo se discuten y qué ocurre cuando entran en conflicto.

Las ideas pueden estar examinadas con cuidado. O pueden haberse incorporado deprisa porque había que lanzar el producto el martes.

El martes no es una teoría ética.

Las humanidades no son decoración

Me preocupa esa costumbre de tratar las humanidades como un barniz cultural. Quedan estupendamente en el discurso institucional y en la ceremonia académica. Después llegan los presupuestos y las decisiones estratégicas, y alguien les pide amablemente que salgan de la sala.

Pero las humanidades sirven para formar juicio.

Una empresa puede tener ingenieros magníficos y no haber pensado suficientemente qué relación quiere construir entre sus sistemas y las personas. Puede disponer de muchísimos datos y carecer de criterio sobre sus usos. Puede escalar un producto sin preguntarse qué consecuencias está multiplicando.

No se trata de enfrentar a técnicos y humanistas. Necesitamos que trabajen juntos. El conocimiento técnico ayuda a distinguir los riesgos reales de las fantasías; la reflexión humanística obliga a discutir los fines que orientan ese conocimiento.

Saber cómo hacer algo y decidir si merece la pena hacerlo son preguntas diferentes. Ambas importan.

Un filósofo en plantilla no es una garantía moral

Incorporar perfiles filosóficos puede ser una señal de apertura. También puede quedarse en un gesto sin influencia suficiente.

No podemos conocer la intención de una empresa por un fichaje. Sí podemos preguntarnos qué capacidad tiene esa persona para intervenir.

¿Participa antes de que las decisiones estén cerradas? ¿Puede cuestionar los objetivos? ¿Sus objeciones reciben una respuesta? ¿Alguna vez se modifica o se descarta una propuesta por razones que no sean comerciales?

Una cosa es permitir que la filosofía incomode. Otra, encargarle que traduzca decisiones ya tomadas a un lenguaje moralmente aceptable.

La diferencia se nota menos en la biografía del contratado que en las decisiones de la organización.

Preguntas que deberían llegar antes del lanzamiento

Una revisión tardía puede detectar problemas y reducir daños. No la desprecio. Pero hay preguntas que conviene plantear cuando todavía podemos cambiar el rumbo:

¿Qué tipo de atención estamos favoreciendo? ¿Qué decisiones invitamos a delegar? ¿Estamos ayudando a comprender o haciendo más cómoda la dependencia? ¿Qué fragilidades humanas podemos estar explotando? ¿Qué no deberíamos automatizar, aunque técnicamente podamos?

También hay que escuchar a quienes usarán la herramienta y a quienes sufrirán sus consecuencias. Los filósofos no poseen un acceso exclusivo al bien ni sustituyen a educadores, trabajadores, investigadores o ciudadanos.

Su aportación puede ser especialmente valiosa al aclarar conceptos, examinar argumentos y detectar contradicciones. Pero una ética viva necesita conversación, conocimiento de la realidad y capacidad de actuar.

No basta con redactar unos principios y colgarlos en una web.

La incómoda pausa de pensar

El mercado pide velocidad. La competencia pide lanzamientos. El inversor pide ventaja. El usuario pide comodidad.

Y entonces llega alguien con una pregunta inoportuna: «Espera, ¿para qué?».

Qué fastidio.

La filosofía puede aportar esa pausa: distinguir, revisar supuestos, preguntar por los fines y resistirse a confundir potencia con bien.

No debería convertirse en una fábrica de objeciones abstractas ni en una excusa para no decidir nunca. También hay que actuar. Pero actuar con criterio exige aceptar que una pregunta incómoda puede ahorrarnos un error enorme.

La prisa no vuelve buena una decisión. Solo hace que llegue antes.

Esto también va contigo y conmigo

No es un debate reservado a las grandes tecnológicas. Afecta a universidades, colegios, pequeñas empresas, administraciones y usuarios.

¿Para qué incorporamos IA? ¿Qué capacidades queremos desarrollar? ¿Qué parte del trabajo humano merece protección? ¿Qué decisiones seguiremos asumiendo personalmente? ¿Cómo comprobaremos si la herramienta mejora la vida de quienes la utilizan?

Para mí, el orden debería estar claro: primero los fines, después los medios; primero la persona, después el sistema; primero el juicio, después la optimización.

Si la IA necesita filosofía, no es porque la filosofía haya descubierto por fin una utilidad. Es porque la tecnología nos obliga a reconocer las preguntas que siempre estuvieron debajo.

La buena noticia no sería simplemente que hubiera más filósofos en las empresas de IA.

Sería que sus preguntas, junto con las de otros, pudieran cambiar lo que esas empresas hacen.

Porque poner lenguaje moral alrededor del poder es relativamente fácil.

Orientar ese poder hacia el bien humano exige bastante más.

Un ejemplo documentado

Anthropic: la constitución de Claude. La empresa identifica a Amanda Askell como responsable de su trabajo sobre el carácter de Claude y autora principal del documento. Esa descripción acredita su función; no demuestra por sí sola el cumplimiento de los principios declarados.