La inteligencia artificial no piensa por nosotros: el peligro comienza cuando dejamos de pensar
Bret Stephens pide que nunca utilicemos inteligencia artificial para escribir. Su advertencia merece ser escuchada, pero la amenaza no está en la herramienta. Está en la comodidad de aceptar como propio aquello que no comprendemos, no discutimos y ni siquiera nos representa.
Por Caraí Identidad – Para Identidad Correntina
Bret Stephens lanzó desde las páginas de The New York Times una súplica tan provocadora como inquietante: nunca permitamos que la inteligencia artificial escriba por nosotros.
Ni un trabajo escolar.
Ni un informe laboral.
Ni una carta familiar.
Ni siquiera ese correo electrónico rutinario que despachamos sin demasiadas ganas.
Su argumento es poderoso: escribir nos obliga a pensar. Buscar una palabra, corregir una frase, ordenar una idea y descubrir que aquello que parecía claro en nuestra cabeza se vuelve confuso sobre el papel son partes de un mismo ejercicio intelectual.
Cuando dejamos que una máquina haga todo ese trabajo, corremos el riesgo de perder algo más importante que el estilo.
Podemos perder la capacidad de construir un pensamiento propio.
Hasta allí, Stephens tiene razón.
Pero hay una pregunta que su advertencia no termina de resolver:
¿El problema es utilizar inteligencia artificial o permitir que la inteligencia artificial nos utilice a nosotros?
La humanidad siempre tuvo miedo de sus herramientas
Cuando apareció la escritura, algunos pensadores advirtieron que destruiría la memoria. Si las personas podían guardar sus conocimientos en un texto, ya no tendrían necesidad de conservarlos en la cabeza.
Cuando nació la imprenta, hubo quienes temieron que la multiplicación de los libros difundiera errores, herejías y conocimientos peligrosos.
La calculadora fue acusada de arruinar nuestra capacidad para hacer cuentas. La televisión, de terminar con la lectura. Internet, de destruir nuestra concentración.
Ninguno de esos temores era completamente absurdo.
La escritura modificó la memoria.
La imprenta propagó verdades, pero también mentiras.
La calculadora hizo innecesarias algunas operaciones mentales.
Internet colocó una biblioteca gigantesca en nuestros bolsillos y, al mismo tiempo, construyó la mayor fábrica de distracciones conocida por la humanidad.
Toda herramienta amplía una capacidad y puede atrofiar otra.
La inteligencia artificial no será una excepción.
Puede ayudarnos a comparar datos, descubrir contradicciones, ordenar documentos y encontrar preguntas que no habíamos formulado. Pero también puede acostumbrarnos a recibir respuestas terminadas, cómodas y aparentemente razonables.
Esa comodidad es el verdadero peligro.
Una máquina puede redactar, pero no puede hacerse responsable
La inteligencia artificial puede construir una frase elegante. Puede imitar un estilo, proponer un título y organizar argumentos. Incluso puede producir un texto formalmente mejor que el de muchas personas.
Pero no conoce el peso de lo que escribe.
No siente vergüenza cuando se equivoca.
No tiene una historia que defender.
No pierde amigos por una opinión.
No comparece ante un juez.
No mira a los ojos a una persona herida por sus palabras.
Y, fundamentalmente, no asume responsabilidad.
La máquina puede generar una afirmación falsa con la misma seguridad con la que presenta una verdadera. No miente como lo hace un ser humano, porque para mentir hay que conocer la verdad y decidir ocultarla. La inteligencia artificial simplemente calcula qué palabras probablemente deberían aparecer a continuación.
La responsabilidad siempre permanece del lado de quien pregunta, selecciona, firma y publica.
Ese punto resulta especialmente importante para quienes trabajamos con información. Una herramienta puede ayudarnos a revisar cientos de páginas, pero no puede decidir honestamente qué merece ser publicado. Puede encontrar una coincidencia, pero no comprender por sí sola su significado político, social o humano.
Puede escribir una noticia.
Lo que no puede hacer es dar la cara por ella.
El fraude no comenzó con la inteligencia artificial
Existe una tentación de responsabilizar a la tecnología por una debilidad mucho más antigua.
Antes de la inteligencia artificial ya existían estudiantes que copiaban trabajos, profesionales que firmaban informes preparados por otros, políticos que pronunciaban discursos escritos por asesores y funcionarios que defendían documentos que nunca habían leído.
También existían medios que reproducían noticias sin verificarlas y opinadores que hablaban de libros que jamás habían abierto.
La máquina no inventó la simulación.
Solamente la volvió más rápida, más barata y más difícil de detectar.
Un estudiante puede presentar en pocos segundos un ensayo sobre un tema que no comprende. Un funcionario puede recibir un informe impecablemente redactado sin conocer los datos que contiene. Un dirigente puede pronunciar un discurso emotivo que no expresa una sola convicción personal.
El resultado puede parecer perfecto.
Precisamente por eso es peligroso.
Durante siglos, una mala redacción podía revelar que detrás de un texto había una idea confusa. Ahora podemos encontrarnos con palabras impecables que ocultan la ausencia completa de pensamiento.
La corrección gramatical ya no garantiza que haya una persona intelectualmente presente detrás de lo escrito.
La pregunta que deberíamos hacerles a nuestros hijos
Quizás resulte inútil ordenarles a los jóvenes que jamás utilicen inteligencia artificial. La herramienta ya forma parte de su mundo y probablemente estará integrada en casi todas las actividades profesionales.
La verdadera enseñanza debería ser otra.
Después de utilizarla, deberían poder responder:
¿Entendés lo que está escrito?
¿Podés explicarlo sin mirar la pantalla?
¿Comprobaste los datos?
¿Estás de acuerdo con ese argumento?
¿Podrías defenderlo frente a alguien que piensa diferente?
¿Hay algo verdaderamente tuyo en esas palabras?
Si la respuesta es negativa, el trabajo no les pertenece, aunque hayan escrito correctamente la instrucción que se lo pidió a la máquina.
La educación no debería evaluar solamente el texto entregado. Tendría que observar el recorrido intelectual: las fuentes consultadas, las dudas, las correcciones, las decisiones y la defensa oral de las conclusiones.
En un mundo donde cualquiera puede producir diez páginas en segundos, el verdadero mérito ya no estará en acumular palabras.
Estará en demostrar que detrás de ellas existe una conciencia despierta.
También hay palabras que no deberíamos delegar
No todo lo que escribimos tiene el mismo valor.
Una inteligencia artificial puede ayudarnos a ordenar un informe administrativo o resumir un reglamento. Pero hay palabras cuyo significado depende precisamente del esfuerzo de encontrarlas.
Una disculpa.
Una despedida.
Una declaración de amor.
Un mensaje a un hijo.
El brindis de un padre en la boda de su hija.
En esos casos, la imperfección puede ser más verdadera que la elocuencia. Una frase sencilla, trabajosa y hasta torpemente escrita puede contener algo que ningún sistema puede fabricar: la presencia de una persona que intentó decir lo que sentía.
Si alguien descubre que una carta profundamente personal fue producida íntegramente por una máquina, probablemente no se preguntará si estaba bien redactada.
Se preguntará cuánto de verdadero había en ella.
Hay momentos en los que delegar las palabras significa delegar una parte del vínculo.
La inteligencia artificial como espejo
La discusión no es solamente tecnológica. Es moral.
La inteligencia artificial nos coloca frente a un espejo y nos obliga a decidir qué clase de seres humanos queremos ser.
Podemos utilizarla para ampliar nuestra curiosidad o para evitar el esfuerzo de aprender.
Para contrastar nuestras ideas o para recibir obedientemente una confirmación.
Para investigar mejor o para fabricar más rápido.
Para formular nuevas preguntas o para dejar de hacernos preguntas.
La misma herramienta puede servirle a un médico que analiza miles de antecedentes, a un científico que busca patrones invisibles y a un estudiante que presenta como propio un trabajo que jamás leyó.
La diferencia no está en el algoritmo.
Está en la conducta humana.
El nuevo analfabetismo
Durante mucho tiempo llamamos analfabeto a quien no sabía leer ni escribir. En el mundo que viene podría aparecer una forma más sofisticada de analfabetismo: personas capaces de producir textos perfectos, pero incapaces de comprenderlos, discutirlos o reconocer cuándo contienen un error.
Tendremos abundancia de palabras y escasez de pensamiento.
Informes impecables que nadie leyó.
Discursos emotivos que nadie sintió.
Noticias convincentes que nadie verificó.
Argumentos contundentes que nadie sería capaz de defender.
Ese futuro no estará habitado por personas que no saben escribir. Será más inquietante: estará habitado por personas que ya no consideran necesario hacerlo.
Una sociedad que abandona el esfuerzo de formular sus propias ideas se vuelve más fácil de conducir. Quien no puede construir un argumento tampoco puede reconocer con claridad cuándo está siendo manipulado.
Allí la advertencia de Stephens adquiere toda su dimensión política.
Leer, escribir y pensar no son solamente habilidades escolares. Son instrumentos de libertad.
No hay que romper la máquina: hay que conservar el timón
Tal vez no sea necesario prohibir la inteligencia artificial ni renunciar a ella.
Pero sí debemos establecer un límite:
La máquina puede ayudarnos a buscar.
Puede ordenar.
Puede comparar.
Puede señalar una contradicción.
Puede obligarnos a considerar otro punto de vista.
Lo que no debemos entregarle es la decisión final sobre lo que pensamos y estamos dispuestos a firmar.
Cada palabra publicada debe atravesar nuestra conciencia. Cada dato debe ser comprobado. Cada argumento debe ser comprendido. Y cada conclusión debe poder sostenerse sin la protección de una pantalla.
No se trata de competir contra la inteligencia artificial. Sería tan inútil como intentar ganarle en velocidad a un automóvil.
Se trata de conservar aquello que ninguna máquina puede reemplazar: la experiencia vivida, la duda, la responsabilidad, la memoria, la intuición y el juicio moral.
Bret Stephens ruega que nunca escribamos con inteligencia artificial.
Quizás deberíamos formular la advertencia de otra manera:
Podemos escribir con su ayuda.
Lo que nunca debemos permitir es que piense en nuestro lugar.
Porque el día en que aceptemos palabras que no comprendemos, ideas que no discutimos y conclusiones que no elegimos, la inteligencia artificial no habrá adquirido conciencia.
Seremos nosotros quienes habremos renunciado a la nuestra.
