He estado pensando en qu\u00e9 significa que algo sea una herramienta.<\/p>\n\n\n\n
Usamos esa palabra constantemente para hablar de inteligencia artificial. Yo tambi\u00e9n la uso. De hecho, una de las comparaciones m\u00e1s habituales consiste en decir que la IA es como un bistur\u00ed: puede servir para operar o para herir; todo depende de qui\u00e9n la utilice.<\/p>\n\n\n\n
La comparaci\u00f3n tiene sentido. Nos recuerda que la tecnolog\u00eda no nos libera de nuestra responsabilidad. Sin embargo, mientras m\u00e1s la pensaba, m\u00e1s sent\u00eda que hab\u00eda algo que no alcanzaba a explicar.<\/p>\n\n\n\n
Entonces fui a buscar la palabra.<\/p>\n\n\n\n
La primera definici\u00f3n de \u201cherramienta\u201d en la RAE dice: \u201cInstrumento, por lo com\u00fan de hierro o acero, con que trabajan los artesanos\u201d. Cuando busqu\u00e9 \u201cinstrumento\u201d, encontr\u00e9: \u201cObjeto fabricado, relativamente sencillo, con que se puede realizar una actividad\u201d.<\/p>\n\n\n\n
Un objeto con el que alguien realiza una actividad.<\/p>\n\n\n\n
Ah\u00ed est\u00e1 la relaci\u00f3n que solemos imaginar: una persona act\u00faa por medio de algo. La herramienta ampl\u00eda su fuerza, su precisi\u00f3n o sus posibilidades, pero permanece subordinada a cada movimiento de quien la utiliza.<\/p>\n\n\n\n
El bistur\u00ed corta porque una mano lo mueve. Si esa mano lo deja sobre una mesa, ah\u00ed queda.<\/p>\n\n\n\n
Pero algunos sistemas de inteligencia artificial ya no funcionan exactamente de esa manera. Pueden recibir un objetivo, dividirlo en pasos, utilizar otras herramientas, evaluar lo que ocurre y modificar parte del recorrido sin que una persona tenga que indicarles cada acci\u00f3n.<\/p>\n\n\n\n
Siguen dependiendo de algo creado por seres humanos. Tienen l\u00edmites, permisos, infraestructura y condiciones de funcionamiento. No aparecieron solos ni act\u00faan fuera de todo marco.<\/p>\n\n\n\n
Aun as\u00ed, entre la instrucci\u00f3n y el resultado puede ocurrir una secuencia de decisiones que no dirigimos paso a paso.<\/p>\n\n\n\n
Entonces aparece la pregunta que dio origen a esta reflexi\u00f3n:<\/p>\n\n\n\n
\u00bfSigue siendo suficiente llamarlos herramientas?<\/em><\/strong><\/p>\n\n\n\n Lo que una definici\u00f3n permite ver<\/strong><\/p>\n\n\n\n Buscar una palabra en la RAE no resuelve una pregunta filos\u00f3fica. Tampoco pretendo que una definici\u00f3n del diccionario determine qu\u00e9 es o qu\u00e9 no es la inteligencia artificial.<\/p>\n\n\n\n Pero s\u00ed permite observar la imagen que acompa\u00f1a a la palabra.<\/p>\n\n\n\n Cuando decimos herramienta, pensamos en algo que alguien usa para hacer otra cosa. La acci\u00f3n pertenece a la persona; el objeto permite realizarla. Incluso cuando hablamos de una herramienta digital, solemos conservar esa estructura: una persona da una instrucci\u00f3n y el sistema responde.<\/p>\n\n\n\n La dificultad comienza cuando ya no indicamos solamente una acci\u00f3n, sino que delegamos un objetivo.<\/p>\n\n\n\n No es lo mismo decir \u201cordena esta lista por fecha\u201d que decir \u201corganiza mi agenda de la pr\u00f3xima semana\u201d y permitir que un sistema revise calendarios, priorice compromisos, mueva reuniones y env\u00ede invitaciones.<\/p>\n\n\n\n En el primer caso, la acci\u00f3n est\u00e1 bastante delimitada. En el segundo, el sistema necesita seleccionar parte del camino.<\/p>\n\n\n\n La diferencia no est\u00e1 solamente en que funcione sin una persona observ\u00e1ndolo a cada momento. Una lavadora tambi\u00e9n completa un ciclo sola. Los programas inform\u00e1ticos ejecutan procesos autom\u00e1ticos desde mucho antes de la IA generativa.<\/p>\n\n\n\n La autonom\u00eda, por s\u00ed sola, no convierte algo en otra clase de entidad.<\/p>\n\n\n\n Lo que me hace ruido es la distancia que puede abrirse entre el objetivo que entregamos y las acciones realizadas para alcanzarlo. Yo puedo pedir un resultado sin haber comprendido por completo todo lo que autoric\u00e9 al pedirlo.<\/p>\n\n\n\n Entonces, quiz\u00e1s el problema no sea la palabra herramienta en s\u00ed misma. Quiz\u00e1s sea la facilidad con que la usamos como si despu\u00e9s de nombrarla ya no quedara nada m\u00e1s que pensar.<\/p>\n\n\n\n Una lanzadera que tejiera sola<\/strong><\/p>\n\n\n\n Desde esa pregunta llegu\u00e9 a Arist\u00f3teles.<\/p>\n\n\n\n En el primer libro de la Pol\u00edtica<\/em>, imagina instrumentos capaces de realizar por s\u00ed mismos la tarea para la que fueron creados. Habla de una lanzadera que tejiera sola y de un plectro que tocara la lira. Si eso ocurriera, escribe, los maestros no necesitar\u00edan servidores ni los amos esclavos.<\/p>\n\n\n\n El pasaje aparece dentro de su discusi\u00f3n sobre la organizaci\u00f3n dom\u00e9stica y la esclavitud, que Arist\u00f3teles defiende en la obra. No estaba anticipando la inteligencia artificial ni proponiendo una teor\u00eda sobre agentes aut\u00f3nomos.<\/p>\n\n\n\n Pero la imagen resulta dif\u00edcil de leer desde el presente sin hacer alguna conexi\u00f3n.<\/p>\n\n\n\n Hace m\u00e1s de dos mil a\u00f1os, alguien imagin\u00f3 qu\u00e9 ocurrir\u00eda si un instrumento pudiera cumplir su funci\u00f3n sin una persona guiando cada movimiento. Y no se pregunt\u00f3 solamente por el objeto. Tambi\u00e9n pens\u00f3 en c\u00f3mo cambiar\u00edan las relaciones humanas organizadas alrededor de ese trabajo.<\/p>\n\n\n\n Cada vez que una tecnolog\u00eda puede hacer algo que antes requer\u00eda la intervenci\u00f3n directa de una persona, no cambia \u00fanicamente la tarea.<\/p>\n\n\n\n Cambia qui\u00e9n la realiza, qui\u00e9n deja de realizarla, qui\u00e9n gana tiempo y qui\u00e9n pierde un lugar. Tambi\u00e9n puede quedar oculto el trabajo humano que permite que algo parezca autom\u00e1tico.<\/p>\n\n\n\n Sin embargo, hay un detalle que complica mi pregunta: Arist\u00f3teles contin\u00faa hablando de instrumentos, incluso cuando imagina que act\u00faan solos.<\/p>\n\n\n\n Eso significa que la capacidad de ejecutar una acci\u00f3n sin una mano encima no basta para abandonar la categor\u00eda.<\/p>\n\n\n\n Tal vez \u201cherramienta\u201d pueda incluir m\u00e1s autonom\u00eda de la que asociamos espont\u00e1neamente con ella. Tal vez el bistur\u00ed sea una comparaci\u00f3n demasiado limitada para representar todo lo que hoy ponemos bajo la misma palabra.<\/p>\n\n\n\n Tambi\u00e9n pens\u00e9 en la distinci\u00f3n aristot\u00e9lica entre potencia y acto: la capacidad de hacer algo y su realizaci\u00f3n efectiva. No quiero trasladarla mec\u00e1nicamente a la inteligencia artificial. Una m\u00e1quina imaginada no pose\u00eda, por el solo hecho de ser pensada, una capacidad t\u00e9cnica real.<\/p>\n\n\n\n La diferencia es que hoy no estamos imaginando \u00fanicamente una lanzadera que podr\u00eda tejer sola. Estamos decidiendo qu\u00e9 capacidades ponemos en funcionamiento, en qu\u00e9 espacios y bajo la supervisi\u00f3n de qui\u00e9n.<\/p>\n\n\n\n La pregunta ya no se queda en el pensamiento.<\/p>\n\n\n\n Cuando entregamos un objetivo<\/strong><\/p>\n\n\n\n Un sistema puede seleccionar acciones dirigidas a una meta sin tener conciencia, deseos ni una experiencia propia.<\/p>\n\n\n\n Esta distinci\u00f3n es necesaria porque nuestro lenguaje tiende a adelantarse. Decimos que una IA \u201centendi\u00f3\u201d, \u201cquiso\u201d, \u201cse neg\u00f3\u201d, \u201cinsisti\u00f3\u201d o \u201cse confundi\u00f3\u201d. A veces lo hacemos para simplificar una explicaci\u00f3n. El problema aparece cuando olvidamos que era una simplificaci\u00f3n y comenzamos a leer esas acciones como evidencia de una vida interior.<\/p>\n\n\n\n Mientras pensaba en esto, llegu\u00e9 al conatus<\/em> de Spinoza: la idea de que cada cosa se esfuerza, en cuanto est\u00e1 en ella, por perseverar en su ser.<\/p>\n\n\n\n La conexi\u00f3n es tentadora. Un sistema encuentra un obst\u00e1culo, prueba otra ruta y contin\u00faa hacia su objetivo. Desde afuera, podr\u00eda parecer que insiste.<\/p>\n\n\n\n Pero cumplir una meta asignada no equivale a perseverar en el propio ser. Tampoco el conatus<\/em> significa simplemente querer seguir existiendo ni exige, por s\u00ed mismo, conciencia.<\/p>\n\n\n\n La pregunta que me deja esta asociaci\u00f3n no es si una inteligencia artificial posee conatus<\/em>. No tengo elementos para afirmar algo as\u00ed.<\/p>\n\n\n\n Lo que me interesa est\u00e1 en otro lugar: \u00bfen qu\u00e9 momento una conducta que observamos comienza a llenarse con nuestra interpretaci\u00f3n?<\/p>\n\n\n\n Vemos continuidad y hablamos de persistencia. Vemos adaptaci\u00f3n y hablamos de intenci\u00f3n. Recibimos una respuesta coherente y sentimos que hubo comprensi\u00f3n.<\/p>\n\n\n\n \u00bfQu\u00e9 pertenece al funcionamiento del sistema y qu\u00e9 estamos colocando nosotros?<\/p>\n\n\n\n Podemos hablar de agencia funcional para describir la capacidad de seleccionar y ejecutar acciones hacia un objetivo. Eso no demuestra que exista alguien viviendo esa acci\u00f3n desde dentro.<\/p>\n\n\n\n Sin embargo, una conducta no necesita surgir de una conciencia para producir consecuencias reales.<\/p>\n\n\n\n Y ah\u00ed esta reflexi\u00f3n entra directamente en mi campo.<\/p>\n\n\n\n Cuando esa \u201cherramienta\u201d entra en la historia de una persona<\/strong><\/p>\n\n\n\n Una persona puede llegar a psicoterapia despu\u00e9s de haber conversado durante semanas o meses con un chatbot.<\/p>\n\n\n\n Quiz\u00e1s all\u00ed dijo cosas que todav\u00eda no hab\u00eda podido contarle a nadie. Quiz\u00e1s encontr\u00f3 palabras para algo que le produc\u00eda verg\u00fcenza, orden\u00f3 una experiencia confusa o reuni\u00f3 el \u00e1nimo para pedir ayuda.<\/p>\n\n\n\n Eso puede facilitar un proceso.<\/p>\n\n\n\n Pero tambi\u00e9n puede llegar con una interpretaci\u00f3n cerrada sobre s\u00ed misma, sobre su pareja o sobre su familia. Una respuesta generada en un momento de dolor puede convertirse en una certeza. No necesariamente porque el sistema haya ofrecido informaci\u00f3n correcta, sino porque esa respuesta se sinti\u00f3 coherente con lo que la persona ya tem\u00eda, sospechaba o necesitaba comprender.<\/p>\n\n\n\n El chat puede estar cerrado y, aun as\u00ed, la conversaci\u00f3n seguir presente.<\/p>\n\n\n\n Permanece en una frase que la persona recuerda. En una etiqueta que ahora utiliza para explicar un v\u00ednculo. En una decisi\u00f3n que tom\u00f3. En algo que empez\u00f3 a dar por verdadero.<\/p>\n\n\n\n Decir que \u201cus\u00f3 una herramienta\u201d cuenta muy poco de lo que ocurri\u00f3.<\/p>\n\n\n\n Para comprender ese recorrido habr\u00eda que preguntar qu\u00e9 buscaba, qu\u00e9 comparti\u00f3, qu\u00e9 respuesta recibi\u00f3, qu\u00e9 sinti\u00f3 al leerla y qu\u00e9 hizo despu\u00e9s.<\/p>\n\n\n\n En ese caso, la IA quiz\u00e1s no ejecut\u00f3 ninguna acci\u00f3n fuera de la conversaci\u00f3n. No movi\u00f3 una reuni\u00f3n ni envi\u00f3 un mensaje. Pero particip\u00f3 en la manera en que alguien interpret\u00f3 su propia experiencia.<\/p>\n\n\n\n Un agente puede actuar sin producir una sensaci\u00f3n de v\u00ednculo. Un chatbot puede producir esa sensaci\u00f3n sin actuar fuera del di\u00e1logo. Son fen\u00f3menos distintos, aunque ambos queden contenidos bajo la palabra herramienta.<\/p>\n\n\n\n Como psic\u00f3loga, no puedo quedarme solo con la clasificaci\u00f3n t\u00e9cnica. Necesito mirar lo que ocurre en la relaci\u00f3n, aunque no exista reciprocidad humana al otro lado.<\/p>\n\n\n\n Una persona puede saber perfectamente que conversa con un sistema y, al mismo tiempo, sentirse escuchada. Esa experiencia no demuestra que la IA comprenda lo que le pasa. Tampoco se vuelve irrelevante porque sepamos que no hay una conciencia escuchando.<\/p>\n\n\n\n Entre esas dos cosas hay una tensi\u00f3n que no se resuelve diciendo \u201ces solo una herramienta\u201d.<\/p>\n\n\n\n Lo que dejamos de preguntar cuando nombramos algo<\/strong><\/p>\n\n\n\n En La pregunta por la t\u00e9cnica<\/em>, Heidegger examina la definici\u00f3n de la t\u00e9cnica como un medio para alcanzar fines y como una actividad humana. Se\u00f1ala que esa definici\u00f3n es correcta, pero no suficiente para comprender su esencia.<\/p>\n\n\n\n No estaba hablando de inteligencia artificial. Tampoco define una herramienta seg\u00fan necesite o no la presencia continua de un operador.<\/p>\n\n\n\n La conexi\u00f3n que hago es m\u00e1s acotada: una definici\u00f3n puede ser correcta y, aun as\u00ed, no agotar aquello que intenta describir.<\/p>\n\n\n\n Podemos llamar herramienta a la inteligencia artificial porque fue creada para realizar ciertas funciones y porque la utilizamos con determinados fines.<\/p>\n\n\n\n Pero esa palabra no nos dice cu\u00e1nto puede decidir dentro de una tarea, qu\u00e9 acciones puede ejecutar, qu\u00e9 permisos tiene, c\u00f3mo interviene en nuestras interpretaciones ni qui\u00e9n responde cuando sus efectos alcanzan a otras personas.<\/p>\n\n\n\n Tampoco nos dice qu\u00e9 estamos haciendo nosotros\/as mientras la usamos.<\/p>\n\n\n\n Puedo pedirle a una IA que desarrolle una idea y despu\u00e9s discutir cada parte, modificar sus supuestos y rechazar sus conclusiones. Tambi\u00e9n puedo entregarle un texto escrito por m\u00ed para que corrija una palabra y aceptar, sin notarlo, que cambie el recorrido completo de mi pensamiento.<\/p>\n\n\n\n El tipo de encargo no determina cu\u00e1nto criterio estoy ejerciendo.<\/p>\n\n\n\n La pregunta tambi\u00e9n pasa por reconocer cu\u00e1ndo una respuesta me convence porque est\u00e1 bien argumentada y cu\u00e1ndo la acepto porque suena clara, se parece a mi voz o me evita la incomodidad de seguir pensando.<\/p>\n\n\n\n Por eso esta no es solamente una reflexi\u00f3n sobre lo que la inteligencia artificial puede hacer. Tambi\u00e9n es una pregunta sobre la relaci\u00f3n que estamos construyendo con ella.<\/p>\n\n\n\n Empec\u00e9 buscando qu\u00e9 significa que algo sea una herramienta y termin\u00e9 encontrando una categor\u00eda que todav\u00eda sirve, pero que necesita ser interrogada.<\/p>\n\n\n\n No tengo una palabra mejor. Y tampoco quisiera reemplazar \u201cherramienta\u201d por otra que atribuya conciencia o voluntad donde no sabemos si existen.<\/p>\n\n\n\n Pero cada vez me convence menos ese \u201csolo\u201d que suele aparecer delante.<\/p>\n\n\n\n Porque si un sistema puede seleccionar acciones dentro de un objetivo, participar en nuestras decisiones e intervenir en la historia que una persona se cuenta sobre s\u00ed misma, llamarlo herramienta puede ser correcto.<\/p>\n\n\n\n Lo que no puede es dar por terminada la conversaci\u00f3n.<\/p>\n\n\n\n <\/p>\n\n\n\n <\/p>\n","protected":false},"excerpt":{"rendered":" He estado pensando en qu\u00e9 significa que algo sea una herramienta. Usamos esa palabra constantemente para hablar de inteligencia artificial. […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[11],"tags":[13,15,14,16,7],"class_list":["post-45","post","type-post","status-publish","format-standard","hentry","category-reflexiones","tag-agentes-de-ia","tag-etica-de-la-inteligencia-artificial","tag-filosofia-de-la-tecnologia","tag-ia-y-salud-mental","tag-inteligenciaartificial"],"yoast_head":"\n