El inesperado campo laboral que se está abriendo para los licenciados en filosofía: Laboratorios de desarrollo de IA

Hasta hace poco era frecuente que, tras graduarse, los licenciados en filosofía ejercieran su profesión en el ámbito académico, publicando estudios o escribiendo libros. Incluso también existía la posibilidad de que quedaran directamente desempleados, ante lo acotado de su campo laboral. Sin embargo, en el último tiempo se les ha abierto una nueva e inesperada opción para trabajar: laboratorios donde se desarrollan modelos de inteligencia artificial (IA).

"Creo que en este momento la demanda de filósofos con formación en IA está, de hecho, superando a la oferta. Es un ámbito al que animo a los estudiantes a dedicarse. Creo que estas cuestiones relacionadas con la IA estarán en primer plano durante bastante tiempo", señaló recientemente David Chalmers, filósofo de la conciencia de la Universidad de Nueva York (NYU), a The New York Times (NYT).

"Parece ser un buen momento para los filósofos en el mercado laboral", declaró a The Observer Anil Seth, profesor de neurociencia en la Universidad de Sussex que investiga la conciencia. "Es estupendo. Más empresas deberían contratar filósofos, porque pensar con claridad es cada vez más importante", agregó.

Un ejemplo de esto es Amanda Askell. Nacida en Escocia y con un doctorado en la NYU sobre "los principios de Pareto en la ética infinita", primero trabajó en OpenAI y en 2021 se incorporó a Anthropic, donde redactó en gran parte y supervisa una constitución de 23 mil palabras que desempeña un papel clave en la "formación moral" de Claude.

De acuerdo al NYT, al principio Askell realizaba un trabajo más que nada técnico: hacía experimentos de aprendizaje automático. Sin embargo, con el paso del tiempo pudo empezar a aplicar sus conocimientos filosóficos.

En Google DeepMind, en tanto, está Iason Gabriel, un exprofesor de Oxford con formación en filosofía política que ha centrado su trabajo en el tema de la "alineación" de la IA, es decir, en definir los valores éticos que deberían regir a esa tecnología.

Pero, ¿qué exactamente puede aportar la filosofía al desarrollo de la IA? "En principio, la filosofía puede aportar importantes herramientas de análisis ético respecto del diseño, implementación y posibles consecuencias de un determinado sistema de IA", responde a Emol Olof Page, decano de la Facultad de Filosofía de la Universidad Católica. Y enumera: "Cuestiones relativas al sesgo que estos sistemas podrían tener, cuestiones relativas al impacto político y social que la aplicación de estos sistemas pueden conllevar, las posibles amenazas a la vida democrática, la difuminación de los límites entre lo privado y lo público, el tipo de lenguaje que se usa y la concepción del ser humano que está operando a la base de estos sistemas (esto último es especialmente complejo y, por lo mismo, es menos visible)".

"Las personas ocupan la IA para los fines más diversos, y en esos usos necesitan discernir qué es verdad o fiable y qué no, sin tener a mano un experto que se los certifique. Ese discernimiento, ese sentido de verdad, se forma con educación, experiencia, intuición moral y un conocimiento integral que ha sido objeto clásico de la filosofía. La filosofía, antes que una disciplina tradicional, es una reflexión crítica sobre cómo pensamos los límites del conocimiento convencional de las cosas. Con la IA necesitamos exactamente eso", complementa Claudio Santander, académico de la Facultad de Filosofía de la misma casa de estudios.

De acuerdo a un artículo publicado por The Economist a fines de junio pasado, el famoso "método socrático" es uno de los aportes más valiosos que la filosofía puede hacer a la IA, ya que sirve por ejemplo para detectar contradicciones o evitar que los modelos sean proclives a dar la razón al usuario validando afirmaciones incorrectas en lugar de buscar la verdad.

Otra idea que los filósofos podrían "enseñar" a la IA es la de la "ignorancia socrática", que permite que los modelos sean "humildes", asuman que tienen límites y así reduzcan sus respuestas erróneas o inventadas.

También está el tema de la seguridad, es decir, reducir las malas conductas de las IA hacia el usuario, como por ejemplo a través de chantajes. Para eso filósofos crean constituciones -como la que Amanda Askell elaboró para Claude- basadas en "reglas y principios extraídos de escritos filosóficos con autoridad legal o moral", indica el artículo de The Economist. Según explicó la propia Askell a Wired, es "parecido a enseñar a una persona a ser buena".

Según el medio británico, para determinar las reglas que deben incluirse en estas constituciones, los filósofos se han centrado en dos marcos éticos. El primero es la deontología, que impone normas estrictas que prohíben conductas como mentir, coaccionar, y tratar a las personas como medios y no como fines. El segundo es el consecuencialismo, que consiste en sopesar los costos frente a los beneficios para decidir qué hacer. Este último, de acuerdo a The Economist, es especialmente útil -por ejemplo- para los vehículos autónomos, cuando deben decidir la forma menos trágica de chocar en caso de que un accidente es inevitable.

Sin embargo, no todos ven con buenos ojos la colaboración entre la filosofía y la IA. "Uno quiere plantearse las grandes preguntas, pero si eres un filósofo que trabaja para una gran empresa tecnológica, tu ámbito de investigación está delimitado", dijo a Wired David Leslie, director de investigación sobre ética e innovación responsable en el Instituto Alan Turing (Reino Unido).

"No comparto ese optimismo ingenuo de que, dado que ahora consultan a filósofos, todo va a ser éticamente perfecto. Nadie se hace esa ilusión", planteó al mismo medio Alex Grzankowski, director asociado del Instituto de Filosofía y directo del Proyecto de IA y Humanidad de Londres.

¿Ocurrirá en Chile?

Ya sea bueno o malo según el punto de vista de cada cual, este nuevo campo laboral que se abre para los filósofos también implica desafíos para las instituciones que imparten la disciplina. De hecho, según Wired, muchas han debido incorporar cursos de ética de la IA o programas conjuntos de informática y filosofía.

Olof Page sostiene que si bien en Chile los filósofos todavía no trabajan en laboratorios de IA, sin duda es un tema que puede desafiar la enseñanza de la disciplina. Eso sí, destaca que hasta ahora quienes ya trabajan en esto -como Amanda Askell de Anthropic- han recibido una formación relativamente estándar de la filosofía.

"Esto lleva a pensar que lo que se busca es el desarrollo de ciertas capacidades que la filosofía en general ofrece que, en este caso en particular, pueden eventualmente ser útiles al desarrollo de la IA", explica el decano de Filosofía de la UC.

En todo caso, Page resalta la importancia de que "las universidades ofrezcan en su formación general cursos en el área de la IA. Esto permite que, de existir este interés, quienes estudian filosofía puedan complementar su formación de esta manera".

En relación a la posibilidad de que la apertura de este nuevo campo laboral atraiga a más jóvenes a estudiar la disciplina, Olof sostiene que eso dependerá de qué tan activo y creativo sea el mercado laboral chileno en este ámbito.

"Puede contribuir a esto el que también estudien filosofía personas que tengan una formación en áreas directamente vinculadas con la IA. Todos los años nosotros graduamos a estudiantes que provienen de otras disciplinas y que reciben una doble titulación. Es una experiencia muy enriquecedora", afirma.

"Es posible y probablemente ya está ocurriendo en algún grado", dice por su parte Claudio Santander. Sin embargo, agrega: "Si eso atrae a más jóvenes a estudiar filosofía, bienvenido sea. Advertiría, eso sí, que entrar a la carrera pensando en ese puesto de trabajo específico es un mal punto de partida, porque lo que hace valiosa la formación filosófica es justamente que no está diseñada para ninguna aplicación en particular. Eso es su gran riqueza".

Pero, ¿es esperable que a futuro el reclutamiento de filósofos para laboratorios de IA ocurra también en Chile? "Hay indicios de avances interesantes en esta área", responde Olof Page. "Veo en la universidad a jóvenes con mucha motivación para desarrollar proyectos en esa dirección. La interdisciplina que se puede dar en la formación universitaria es un espacio privilegiado para generar ideas que luego pueden decantar -como ya lo están haciendo- en iniciativas que vayan requiriendo el tipo de conocimientos y capacidades que la filosofía contribuye a desarrollar", añade.

"La demanda por reflexión filosófica sobre la IA en Chile probablemente va a surgir del lado de la regulación, de la política pública y del sistema universitario, antes que de empresas que estén construyendo estos sistemas", opina por su parte Santander.

"Yo desearía que pasara algo similar, pero tengo la impresión de que el impulso no va a venir por ahí", concluye.