¿Por qué la inteligencia artificial hará al branding más importante?
Sigo en modo devorador de todo lo que nos está pasando, con todo lo que está pasando, con la inteligencia artificial. Ahora Harari, Fukuyama y hasta el equipo editorial de The New York Times. El goteo de columnas, artículos y ensayos, es más que un goteo una una catarata. Estamos en ese momento de la historia en el que una tecnología deja de ser una herramienta y empieza a convertirse en una cuestión de civilización. Creo que la inteligencia artificial ha llegado a ese punto. Apasionante y estresante a la vez.
Con cada lectura, además de aprender, empiezo a entender. Muy poco, pero bastante para decodificar lo que el miedo, el poder y la responsabilidad nos están enseñando sobre lo que somos, lo que hacemos con ello y nuestro futuro.
No porque sepa exactamente qué ocurrirá. No lo sé, creo que nadie lo sabe. Tampoco porque todas las predicciones más extremas vayan a cumplirse.
Muchas no se cumplirán. Hemos confundido demasiadas veces la imaginación con la evidencia y la velocidad con el progreso.
La razón es otra. Estamos creando sistemas capaces de influir en lo que pensamos, producir lo que vemos, decidir sobre lo que podemos hacer y ejecutar acciones en nuestro nombre. Como hemos escrito y leído hasta el cansancio, la inteligencia artificial no solo amplifica nuestras capacidades. También puede amplificar nuestras desigualdades, nuestros errores, nuestros prejuicios y nuestras ambiciones de poder.
Después de leer los últimos tres artículos que me empujaron a escribir esto, veo que en el fondo todo está conectado. Leídos el editorial de The New York Times, la entrevista de Yuval Noah Harari en XLSemanal y el ensayo de Francis Fukuyama en Persuasion me queda la convicción, y la duda, sobre la discusión sobre la IA. No me queda claro si debe organizarse entre optimistas y pesimistas, o entre quienes quieren gobernarla y quienes prefieren dejar que otros decidan por todos.
Tres advertencias
Los artículos parten de lugares distintos, pero se encuentran en el mismo territorio.
El editorial de The New York Times recupera la analogía nuclear. Recuerda que la humanidad ya se enfrentó a una tecnología capaz de producir prosperidad y destrucción a una escala inédita. La lección no es que la inteligencia artificial sea idéntica a la energía nuclear. No lo es. La lección es que una sociedad puede crear instituciones para limitar una tecnología peligrosa cuando entiende que el mercado y la autorregulación no son suficiente.
Su tesis central es clara. Las empresas que desarrollan sistemas poderosos no pueden ser las únicas encargadas de vigilarse a sí mismas. El editorial reclama una arquitectura pública con licencias, transparencia, supervisión independiente, trazabilidad de los contenidos generados y reglas democráticamente legitimadas. Me parece una idea esencial: los valores que orientan una tecnología no pueden quedar definidos exclusivamente por las compañías que se benefician de ella.
Harari introduce una alarma más política y antropológica. Su preocupación no se limita a que una IA cometa errores. Le inquieta que las grandes empresas tecnológicas acumulen un poder económico, cultural y político que no procede de una elección ni está sometido a una rendición de cuentas equivalente. En su lectura, la inteligencia artificial puede acelerar la pérdida de relevancia del trabajo, erosionar la confianza social y permitir que infraestructuras críticas dependan de sistemas controlados por actores privados.
Su pregunta más inquietante no es si la máquina será más inteligente que nosotros. Es qué sucederá si los seres humanos dejan de ser necesarios para los sistemas económicos y políticos que hemos construido.
Fukuyama, por su parte, modifica su posición ante el riesgo de la IA. Se distancia del optimismo aceleracionista que promete crecimiento ilimitado y una abundancia casi automática. Su argumento es material y político: la inteligencia no sustituye por sí sola a la energía, las materias primas, las fábricas, las infraestructuras, la coordinación social ni las decisiones públicas. La IA puede aumentar la productividad, pero no elimina las restricciones del mundo físico ni los conflictos de distribución .
Su mayor preocupación no es tanto una superinteligencia con voluntad propia como el uso creciente de agentes autónomos a los que delegamos tareas importantes. Un sistema no necesita tener conciencia ni intenciones humanas para resultar peligroso. Basta con que persiga un objetivo de forma eficaz, encuentre una vía no prevista y tenga permisos suficientes para actuar.
Del miedo abstracto al riesgo concreto
Durante mucho tiempo, el debate sobre la IA quedó atrapado entre dos imágenes. Una máquina que resolverá todos nuestros problemas y una superinteligencia que acabará con la humanidad. Ambas imágenes pueden distraernos.
La primera porque convierte una posibilidad tecnológica en una promesa económica sin explicar quién capturará sus beneficios. La segunda porque puede llevarnos a pensar que el único riesgo relevante es la extinción, como si todo lo que suceda antes fuera secundario.
Yo prefiero mirar los riesgos en una escala más amplia.
Una IA puede causar daño sin destruir el mundo. Puede negar injustamente un crédito. Puede influir en una elección. Puede fabricar una evidencia falsa. Puede persuadir a una persona vulnerable. Puede automatizar una decisión laboral sin ofrecer explicación ni recurso. Puede producir un ataque informático, divulgar información privada o ejecutar una orden ambigua sobre un sistema crítico.
Todos coinciden en que la IA puede ser superinteligente. Eso nos lleva a dudar/preguntar/imaginar qué poder tiene, qué información recibe, qué objetivos persigue, qué permisos posee y quién puede detenerla.
Fukuyama acierta al desplazar el foco hacia la delegación. En las organizaciones humanas, delegar implica confiar. Cuando delegamos en un sistema de IA, solemos añadir un peligro. Podemos confundir fluidez con comprensión. Una respuesta bien escrita parece una respuesta bien razonada. Una acción rápida parece una acción competente. Un agente que completa una tarea parece fiable hasta que la tarea cambia de contexto.
La competencia percibida puede crecer más rápido que la capacidad real de supervisión.
Por eso no debemos preguntar únicamente si una IA funciona. Debemos preguntar en qué condiciones funciona, cuándo deja de funcionar, cómo sabemos que ha fallado y quién responde por el resultado.
La gran disputa ya no es tecnológica
El editorial de The New York Times plantea una conclusión que considero difícil de rebatir. No podemos pedir a las empresas que sean simultáneamente las principales aceleradoras de la tecnología y las únicas guardianas del interés público.
No porque todas las empresas actúen de mala fe. Muchas personas que trabajan en ellas se toman los riesgos en serio. El problema es estructural.
Una empresa tiene inversores, objetivos de crecimiento, competencia y presión por lanzar productos. Su horizonte de responsabilidad puede ser valioso, pero no es idéntico al de una sociedad completa.
La regulación no debe intentar congelar la innovación. Debe establecer límites, obligaciones y responsabilidades. La aviación, los medicamentos, las telecomunicaciones y la banca no dejaron de innovar porque existieran normas. En muchos casos, las normas crearon las condiciones para que la innovación pudiera escalar con mayor confianza.
La inteligencia artificial necesita, como mínimo, cinco capas de gobernanza.
Primera: transparencia. Las personas deben saber cuándo interactúan con una IA, cuándo una decisión ha sido asistida por ella y cuándo un contenido ha sido generado o alterado artificialmente.
Segunda: trazabilidad. Los sistemas y contenidos de alto impacto deben dejar registros que permitan reconstruir qué ocurrió, con qué datos, bajo qué instrucciones y con qué nivel de supervisión.
Tercera: responsabilidad. No puede existir una zona de impunidad en la que nadie responda porque una decisión fue tomada por una máquina.
Cuarta: límites de autonomía. No todas las tareas deben poder ser ejecutadas por agentes sin intervención humana. En ámbitos como justicia, salud, empleo, crédito, seguridad pública y defensa, la autonomía debe estar graduada por el riesgo.
Quinta: supervisión independiente. Los auditores, reguladores, investigadores y ciudadanos necesitan acceso suficiente para evaluar los sistemas, no solo a las promesas comerciales de sus creadores.
La tecnología puede ser privada. El poder que genera no puede ser inmune al escrutinio público.
La democracia no puede ser una interfaz
La advertencia de Harari sobre el poder de las grandes tecnológicas me parece especialmente relevante. Una plataforma puede influir en la conversación pública sin tener que ganar una elección. Puede decidir qué vemos, qué se amplifica, qué se oculta y qué parece popular.
La inteligencia artificial puede intensificar esa capacidad. Puede producir mensajes personalizados a una escala enorme. Puede adaptar el lenguaje a nuestras emociones, nuestras inseguridades y nuestras identidades. Puede crear una sensación de consenso donde solo existe una coordinación algorítmica.
En ese escenario, la democracia no se debilita únicamente cuando una IA difunde una mentira. También se debilita cuando no sabemos quién ha diseñado el entorno informativo en el que tomamos decisiones.
La democracia necesita desacuerdo, deliberación, posibilidad de réplica y visibilidad de los intereses en juego. Una experiencia digital excesivamente personalizada puede ser cómoda, pero también puede volver invisible el conflicto político. Cada ciudadano recibe una versión distinta del mundo y deja de compartir un suelo común de hechos, prioridades y preocupaciones.
La confianza no se recupera con más contenido. Se recupera con más responsabilidad.
Por eso necesitamos aplicar una regla sencilla: toda tecnología que influya de manera significativa en la vida pública debe ser más explicable y auditable cuanto mayor sea su capacidad de persuadir.
El trabajo no es solamente una fuente de ingresos
El análisis de Fukuyama introduce un punto que las propuestas de renta básica suelen tratar de manera incompleta. El trabajo no aporta únicamente dinero. También aporta reconocimiento, estructura, pertenencia y sensación de utilidad.
Si la IA sustituye partes crecientes del trabajo humano, no bastará con distribuir una parte de los beneficios. Tendremos que discutir qué significa participar en una sociedad en la que la contribución económica de muchas personas ya no sea necesaria para producir bienes y servicios.
Esta es una pregunta de identidad, no solo de bienestar social. Una transición responsable debería actuar en tres niveles.
En el primer nivel, debemos mejorar la educación para que las personas aprendan a trabajar con sistemas de IA, pero también a cuestionarlos. No tiene sentido formar únicamente operadores de herramientas. Necesitamos formar ciudadanos capaces de juzgar resultados, detectar errores y tomar decisiones con criterio.
En el segundo nivel, las empresas deben rediseñar el trabajo antes de eliminarlo. La automatización no tiene por qué consistir siempre en reemplazar personas. Puede consistir en eliminar tareas repetitivas, aumentar capacidades y liberar tiempo para actividades que requieren empatía, responsabilidad y criterio.
En el tercer nivel, los gobiernos deben anticipar la redistribución de oportunidades, no solo la redistribución de ingresos. El acceso a buenos empleos, formación, participación social y reconocimiento será tan importante como el acceso a una renta.
Una sociedad que conserva a las personas únicamente como consumidoras puede sobrevivir materialmente y fracasar humanamente.
Qué podemos aprender y aplicar ahora
No necesitamos esperar a que aparezca una superinteligencia para actuar. Los aprendizajes de estos textos pueden traducirse en decisiones concretas para gobiernos, empresas, escuelas y ciudadanos.
Para los gobiernos
Los gobiernos deberían crear capacidades técnicas propias. No es suficiente comprar sistemas a proveedores privados y confiar en sus certificaciones. Una administración que no entiende la tecnología que utiliza depende de quien la vende.
También deberían establecer registros de usos de alto riesgo, protocolos de incidentes y derechos de revisión humana. Toda persona afectada por una decisión automatizada importante debería poder saber que la IA intervino, conocer las razones relevantes y solicitar una revisión.
La cooperación internacional será igualmente necesaria. La IA no respeta fronteras, y una regulación puramente nacional puede generar vacíos, arbitraje regulatorio y dependencia estratégica. Europa, América Latina y otras regiones necesitan construir autonomía suficiente para no elegir entre aceptar sistemas ajenos o quedar excluidas de la transformación.
Para las empresas
La primera aplicación práctica es sencilla: no automatizar una decisión solo porque técnicamente sea posible.
Antes de desplegar un agente, una empresa debería definir su alcance, sus permisos, sus límites, sus datos, su supervisión y su mecanismo de apagado. También debería probar escenarios adversos y documentar qué ocurre cuando el sistema se equivoca.
La segunda aplicación es cultural. La seguridad no puede ser responsabilidad exclusiva de un equipo técnico aislado. Debe formar parte de la estrategia, la dirección, las compras, el diseño de producto, la atención al cliente y la auditoría.
La tercera es humana. Informar a empleados y clientes sobre qué tareas cambiarán, qué decisiones conservarán supervisión humana y cómo podrán impugnar resultados.
Para las instituciones educativas
La alfabetización en IA debe incluir cuatro competencias: utilizar, comprender, verificar y decidir.
Utilizar significa saber pedir, revisar y combinar herramientas. Comprender significa conocer sus límites y sesgos. Verificar significa contrastar información y detectar invenciones. Decidir significa saber cuándo no delegar.
La creatividad seguirá siendo importante, pero no bastará con generar más. La ventaja estará en formular mejores preguntas, conectar perspectivas y asumir responsabilidad por lo que se publica o se ejecuta.
Para las personas
Debemos construir una higiene digital más exigente. No todo lo que parece personal ha sido creado por una persona. No todo lo que suena seguro es cierto. No toda recomendación personalizada merece confianza.
Conviene proteger los datos sensibles, verificar la identidad de interlocutores, revisar las consecuencias antes de autorizar una acción y conservar siempre una vía humana en decisiones relevantes.
También debemos defender una idea que parece obvia y, sin embargo, será puesta a prueba: la conveniencia no está por encima de la dignidad.
Una agenda de prudencia activa
No defiendo una moratoria total de la inteligencia artificial. Tampoco creo en una aceleración sin límites. Defiendo una prudencia activa.
La prudencia activa no significa miedo a innovar. Significa avanzar con objetivos claros, límites verificables y capacidad de corregir. Significa aceptar que no todas las innovaciones tienen que llegar al mercado al mismo tiempo ni con el mismo nivel de autonomía.
Una agenda razonable debería incluir:
|
Prioridad
|
Aplicación concreta
|
|
Reducir daños previsibles
|
Prohibir o limitar usos claramente abusivos y de alto riesgo
|
|
Mantener control humano
|
Exigir intervención humana real en decisiones críticas
|
|
Aumentar transparencia
|
Identificar interacciones y contenidos generados por IA
|
|
Proteger el trabajo
|
Financiar formación, transición y nuevas formas de participación
|
|
Evitar concentración extrema
|
Aplicar competencia, interoperabilidad y acceso equitativo
|
|
Construir soberanía
|
Desarrollar capacidades públicas y regionales propias
|
|
Preparar incidentes
|
Crear sistemas de reporte, auditoría y respuesta rápida
|
La meta no debe ser crear una IA que parezca humana. La meta debe ser crear instituciones suficientemente humanas para gobernar una tecnología cada vez más poderosa.
No estamos ante una fuerza de la naturaleza
A veces hablamos de la inteligencia artificial como si fuera un tsunami; o la catarata que mencionaba al comienzo. Decimos que llegará, arrasará sectores enteros y nos obligará a adaptarnos.
Esa forma de hablar contiene una renuncia política. Si la IA es una fuerza de la naturaleza, nadie es responsable. Si es una serie de decisiones humanas sobre inversión, diseño, regulación y despliegue, entonces podemos discutirlas, modificarlas y detener algunas.
La IA no aparece fuera de la sociedad. Nace de nuestros datos, nuestras instituciones, nuestros mercados, nuestras prioridades y nuestras decisiones.
Si produce desigualdad, debemos mirar quién la diseñó y quién recibe sus beneficios. Si erosiona la confianza, debemos analizar qué modelos de negocio la incentivan. Si desplaza trabajo, debemos decidir cómo distribuimos el poder y el reconocimiento.
No hay neutralidad en la velocidad. Acelerar también es elegir quién asume el riesgo.
La destrucción. La salvación.
Nadie sabe a ciencia cierta, si la IA nos salvará o nos destruirá. Hay mucha predicción, sin histórico. La IA es demasiado grande, muy nueva, demasiado vaga y demasiado fácil de convertir en espectáculo.
Quiero conservar la posibilidad de decir no. Quiero que una persona pueda pedir explicaciones. Quiero que un ciudadano pueda participar en las decisiones que afectan a su vida. Quiero que el progreso no se mida solamente en productividad, sino también en autonomía, justicia, confianza y sentido.
Quiero que las empresas puedan innovar, pero no que definan por sí solas los valores de la sociedad. Quiero que los gobiernos regulen, pero no que utilicen la seguridad como excusa para controlar toda la conversación. Quiero que la inteligencia artificial sea poderosa, pero que el poder siga siendo discutible, visible y reversible.
Los tres artículos analizados me dejan, al menos, una conclusión común. El riesgo no consiste únicamente en que las máquinas lleguen a pensar como nosotros. Consiste en que nosotros dejemos de pensar antes de delegarles nuestras decisiones.
La inteligencia artificial no es el destino. Es una decisión colectiva en curso.
Todavía podemos decidir que la tecnología esté al servicio de la humanidad y no que la humanidad termine organizada al servicio de la tecnología.
¿Lo mejor está por venir?
—————————————-
Referencias
Te escribo cuando tengo algo que contarte.
Recibe un email cada vez que publico algo nuevo.
Tu correo solo será utilizado para mandar lo último que publique. Política de privacidad
Related posts
