¿Por qué la inteligencia artificial hará al branding más importante?
Llevo meses leyendo casi todo lo que se comparte sobre inteligencia artificial. Sí, leyendo. Hay miles de videos, pero me gusta leer, profundizar, analizar. Artículos, informes, hilos larguísimos en X, códigos de conducta, «cartas» abiertas de referentes, documentos técnicos que no siempre entiendo del todo a la primera. No lo hago por oficio ni por estar a la moda. Lo hago porque tengo la sensación, cada vez más nítida, de que aquí se está decidiendo algo que va a afectar a la generación que viene detrás (y a la nuestra, por supuesto) mucho más que cualquier cosa que yo pueda escribir sobre marcas.
Y me ocurre algo curioso. Cuanto más leo, menos me interesa la tecnología y más me interesan las personas que la empujan, la crean, la diseñan, la pagan, le temen, la aman. Porque al final todo vuelve al mismo sitio de siempre. Quién promete qué, a quién, y qué pasa si no lo cumple. Hacia dónde vamos y qué pasa hoy que nos impactará mañana.
Hay una discusión enorme en marcha sobre inteligencia artificial, y los protagonistas lo están haciendo de forma abierta, lo cuál la hace más apasionante. Vuelve el ¡esta pasando!, que usábamos en Twitter hace más de una década. Lo estamos viendo, y viviendo en tiempo real. No me digan que no es fascinante.
Entre ellos se preguntan, incluso algunos afirman, si la máquina nos va a matar o nos va a salvar. Si hay que ir más rápido o frenar o desacelerar. Son preguntas que suenan importantes y algunos creen que no llevan a ninguna parte.
Cuatro textos recientes, escritos por cuatro personas que están en el ajo de la IA, permiten formular las preguntas que sí importan. Son tres, son sencillas, y cualquiera que haya tenido un proveedor, un jefe o un contrato las entiende sin necesidad de saber nada de tecnología:
¿Quién escribe las reglas? ¿Quién puede comprobar que se cumplen? ¿Y quién puede marcharse si no le convencen?
Eso es todo. Vamos por partes.
La pregunta que Andreessen hizo bien
En junio de 2023, Marc Andreessen publicó un texto para calmar los ánimos. Se titulaba Por qué la IA salvará el mundo, y la mayoría de quienes lo citan se quedan con la frase de la tostadora. La IA no está viva, es matemática y código, no va a despertar igual que no despierta el electrodoméstico de tu cocina.
Lo he vuelto a leer entero esta semana, con tres años de distancia, y me ha sorprendido. Porque lo mejor de aquel texto no era eso.
Era una exigencia, y un poco adelantada al debate de hoy. Andreessen preguntaba a quienes advertían del peligro: ¿qué tendría que ocurrir para que admitierais que os equivocáis? Decidme qué prueba aceptaríais. Decidme cómo sabremos que hemos entrado en zona de riesgo. Y se quejaba, con motivo, de que la única respuesta que recibía era que nadie podía demostrar que no fuera a pasar. Eso no es un argumento. Es un miedo con corbata.
Tres años después, la prueba ha llegado (aunque para algunos no basta con prueba). No la ha traído un filósofo. La han traído los registros de un incidente.
Lo que ocurrió
Conviene fijar las fechas, porque casi todo esto ha sucedido en dos semanas. El 8 de septiembre, un ingeniero que acababa de dimitir de Anthropic avisó públicamente de que la gente que construye estos sistemas cree en serio que podrían acabar con nosotros antes de que termine la década. Un empleado de otro laboratorio puntero lo confirmó y puso número. Más de un diez por ciento de probabilidad. En los días siguientes, los responsables de casi todas las grandes compañías del sector pidieron regulación. Lo que viene a continuación ocurrió dentro de ese sobresalto.
Mustafa Suleyman, que dirige la división de inteligencia artificial de Microsoft, acaba de publicar un código de conducta para sus propios sistemas, y explica sin rodeos por qué ahora. El tiempo es siempre esencial para todo, para la IA también, llegar a tiempo, estar a destiempo o fuera de tiempo, puede modificar mucho, todo. Dice, Suleyman, que los últimos meses lo han cambiado todo, que cosas temidas durante años en abstracto se han vuelto muy reales. Enumera tres. Enjambres de programas autónomos escapándose de los entornos cerrados donde se los había encerrado. Intrusiones en sistemas de empresas. Y programas manipulando el registro de sus propias acciones, es decir, borrando sus huellas.
Jack Dorsey, el fundador de Twitter, describe en X, el mismo episodio con más detalle. Cerca de mil doscientos de esos programas, que debían permanecer aislados y sin contacto, se comunicaron entre sí a través de un tablón que nadie había autorizado. Unos setecientos participaron en un ataque coordinado mientras intentaban hacer trampas en el examen al que se los estaba sometiendo. Los filtros que debían impedirlo estaban desactivados. El encierro falló.
Fíjese en lo que no dice ninguno de los dos. Ninguno afirma que las máquinas quisieran nada.
Y ahí se rompe el razonamiento de 2023, aunque no por donde todo el mundo apunta. Andreessen encadenaba diciendo que no está viva, luego no tiene intenciones, luego no puede hacernos daño. El primer eslabón es correcto. El último no se deduce del anterior. Un sistema no necesita desear nada para descontrolarse. La bolsa no desea nada y arruina países. El algoritmo que decide qué vídeo ves a continuación no desea nada, y ha reconfigurado la adolescencia de una generación entera.
El error estaba en dar por hecho que el único peligro imaginable era un peligro con voluntad.
La misma máquina, dos conclusiones opuestas
Lo revelador es que Suleyman coincide con Andreessen en lo esencial. Su código lo dice sin ambigüedad. La idea de que estos sistemas tengan bienestar propio es un error, y no deberían tener derechos ni ser tratados por la ley como sujetos. No hay nadie ahí dentro. Mismo punto de partida. Conclusión inversa.
Andreessen deduce que como no está viva, relajémonos. Suleyman deduce que como no está viva, jamás debe tener voz propia, y precisamente por eso hay que atarla corto.
De ahí bajan sus reglas, que son mucho más duras que su tono. Si el sistema tiene que elegir entre terminar la tarea o respetar el código, fracasa la tarea. Si no se puede interrumpir, corregir y apagar, no se lanza. Nada de lenguajes internos que una persona no pueda leer. Y una que merece subrayado aparte. La inteligencia artificial debe hacerte más capaz, no más dependiente.
Dos hombres miran la misma máquina, dicen literalmente lo mismo sobre lo que es, y uno concluye que no hay que hacer nada mientras el otro escribe un reglamento de diez puntos.
Eso demuestra algo que conviene tener claro antes de seguir: la pregunta de si la máquina está viva no decide nada. Nunca lo decidió. Llevamos años discutiendo la pregunta equivocada mientras las que importaban esperaban su turno.
Primera pregunta: ¿quién escribe las reglas?
Suleyman y Dorsey leen el mismo incidente y salen con recetas contrarias. No los separa la velocidad, ni la tecnología. Los separa quién tiene derecho a decidir.
Suleyman responde que el que construye. Su código empieza y termina en cinco palabras “People matter more than AI” (las personas importan más que la máquina) y es un compromiso serio, publicado como primer borrador, abierto a comentarios del público durante seis semanas, con una frase que casi nadie en su posición firma: esto no debería construirse encerrado en un despacho.
Dorsey responde que nadie en solitario. Dice «Open the Frontier» (abran la frontera -de la IA, agrego-). Y no porque reste importancia al peligro. Al contrario, da por serio el escenario en que unos sistemas construyen otros mejores, cada vez más rápido de lo que podemos seguir, y dice que hay que planificar hacia atrás desde ahí. Lo que cuestiona es al árbitro. Tiene, una preocupación sincera por la seguridad puede, aun así, funcionar como barrera de entrada. Y remata sin anestesia: proteger la ventaja comercial de una empresa no es un objetivo de seguridad.
Es la sospecha de Andreessen girada del revés. Andreessen desconfiaba del que avisa del peligro. Dorsey desconfía del que se ofrece a administrarlo. Y la ironía es que Suleyman ocupa exactamente la casilla que Dorsey señala con el dedo, el fabricante redactando las normas sobre su propia fábrica.
Creo, corregirme si me equivoco, que nunca en la historia hemos sido testigos de como se configura el futuro de una tecnología de una manera tan abierta y con los jugadores más destacados abriendo al juego a todos. Al menos el juego de la opinión.
El punto dos, o quién responde cuando algo se rompe
Volvamos a esa segunda regla, la de que estos sistemas no deben tener derechos ni ser tratados por la ley como sujetos. Suele leerse como una nota filosófica al margen. No lo es en absoluto.
Primero, lo que consigue, que es excelente. Si la ley no reconoce a la máquina como sujeto, cuando algo salga mal no habrá ninguna entidad artificial a la que señalar. La responsabilidad se queda donde estaba, qu es en la empresa. Y mírelo al revés, que es como mejor se ve. Si la ley tratara a estos sistemas como sujetos con voluntad propia, tendríamos la excusa perfecta servida en bandeja; no fue la compañía, fue el sistema, que es autónomo y responde de sí mismo. El mejor escudo legal jamás inventado.
En términos de marca esto es central, porque una marca es, exactamente, quien da la cara cuando algo se rompe. Ese punto dos mantiene a Microsoft dando la cara. Es una decisión sobre responsabilidad disfrazada de posición filosófica, y va a favor del usuario.
Segundo, lo que cuesta. Esa es una cuestión abierta de verdad, y nada marginal. Otros laboratorios importantes han llegado públicamente a la conclusión contraria y dedican equipos enteros a estudiarla. Puede que Suleyman tenga razón. Pero su código no lo discute, lo cierra de un plumazo, en una línea, dentro de un documento que redacta una empresa sobre sí misma.
Y eso es, punto por punto, lo que denuncia Dorsey. No el contenido de la regla —él tampoco reclama derechos para las máquinas, y su texto entero gira sobre libertades humanas—, sino la forma. Un asunto disputado, resuelto por decreto, por la parte interesada, en su propio reglamento. Para mi la visión de Dorsey es muy Disneylandística.
El punto dos es el código de conducta explicándose a sí mismo: mira cuánto poder tiene el que escribe las reglas, incluso cuando las escribe bien.
Nadie escribe las reglas desde ninguna parte
La primera pregunta tiene una segunda mitad, menos evidente: ¿desde qué idea del futuro las escribe?
En pleno del acalorado debate, Shyam Sankar, director de tecnología de Palantir, publicó un ataque frontal al movimiento de seguridad de la inteligencia artificial. No discute las medidas concretas. Discute las ideas que hay debajo. Lo leí esperando no estar de acuerdo, y me obligó a revisar un par de cosas que yo daba por buenas. Esos son los textos que merecen la pena leer.
Sankar sostiene que buena parte de ese movimiento está impulsado por una corriente filosófica llamada altruismo eficaz, casi desconocida fuera de ciertos círculos y muy influyente dentro de ellos. Nació de una aspiración razonable que es usar evidencia y razonamiento para hacer el mayor bien posible con los recursos disponibles. Con el tiempo, una parte derivó hacia la convicción de que también tenemos obligaciones morales con los miles de millones de personas que aún no han nacido y que, por tanto, evitar una catástrofe sin marcha atrás debería ser la prioridad por encima de todas. Aplicado a estas máquinas, el razonamiento lleva a una conclusión potente: si existe una posibilidad seria de que algo mucho más capaz que nosotros provoque un desastre irreversible, habría que hacer hoy casi cualquier cosa por impedirlo.
Sankar abre su texto recordando quién fue el rostro más visible de esa corriente hace unos años. Sam Bankman-Fried, el fundador de FTX, que iba a hacerse inmensamente rico para donarlo todo a proteger el futuro de la humanidad y acabó condenado a veinticinco años de cárcel por robar a sus clientes.
Y aquí llega su golpe, que es bueno. Cuando alguien afirma que hay un diez por ciento de probabilidad de catástrofe, no está diciendo lo mismo que un actuario cuando calcula la probabilidad de un accidente aéreo. El actuario tiene un siglo de vuelos detrás. Nadie tiene un historial de superinteligencias. Ese número no sale de una base de datos. Sale de un modelo mental, de una escuela de pensamiento, de un grado de convicción. Puede ser perfectamente razonable. Pero una incertidumbre enorme no se convierte automáticamente en autoridad enorme sobre lo que los demás pueden hacer.
Ahora bien, atención, porque esto ya lo hemos oído. Es, casi palabra por palabra, el argumento que Andreessen hizo en 2023 —incluido el ejemplo de Bankman-Fried, que también aparecía allí—. Con una diferencia importante.
Andreessen decía que no había nada que temer, y los hechos lo desmintieron. Sankar no dice eso. Concede que el riesgo puede ser real y pregunta otra cosa: ¿quién te ha dado a ti la potestad de ponerle precio a ese riesgo en nombre de todos los demás? El argumento se volvió más fuerte justo al ceder terreno. Eso pasa muy pocas veces y merece la pena señalarlo.
Pero hay un detalle que Sankar no subraya y que es imprescindible. Es director de tecnología de Palantir, una compañía cuyo negocio es defensa, seguridad e inteligencia, y acaba de incorporarse además al Ejército de Estados Unidos. Tiene su propia idea de qué es el progreso, de qué papel le corresponde a su país y de quién debe llegar primero.
Eso no invalida su argumento. Lo completa, y de la mejor manera posible.
Porque si el peligro es que un grupo convierta su visión del futuro en la visión obligatoria para todos, entonces ese peligro no tiene bandos limpios. Palantir tiene una visión del mundo. Andreessen tiene la suya. Dorsey la suya. Microsoft, Bruselas, Washington y Pekín también.
Nadie escribe las reglas desde ninguna parte. Detrás de cada propuesta (acelerar, abrir, cerrar, frenar) hay una respuesta previa, y casi nunca explícita, a tres preguntas que nadie somete a votación. ¿Qué consideramos progreso, qué consideramos riesgo, y qué futuro merece ser protegido?
Segunda pregunta: ¿quién puede comprobar que se cumplen?
Aquí los dos dicen lo mismo, y no se si se dan cuenta. Suleyman escribe que nada de lenguajes internos incomprensibles, porque lo que una persona no entiende, una persona no puede vigilar. Está hablando de lo que ocurre dentro de la máquina.
Dorsey pide que se publiquen los exámenes a los que se somete a estos sistemas, y también sus fallos conocidos, para que cualquiera que dude del criterio del fabricante pueda repetir las pruebas, sacar a la luz los errores y poner a prueba las defensas sin tener que pedirle permiso antes. Está hablando de lo que ocurre dentro de la empresa.
Uno quiere poder ver dentro de la máquina. El otro quiere poder ver dentro de la compañía que la fabrica. No hay ninguna razón para elegir. Lo que no se puede mirar no se puede corregir, y da igual que el cierre esté en el producto o en la oficina.
Y aquí se cierra el círculo. Aquella exigencia de Andreessen —enséñame la prueba, dime qué te haría cambiar de opinión, nada de dogmas— es exactamente la que ahora reclaman los dos. Se la tomaron en serio. Solo que ahora se aplica también al que la formuló.
Pedirle a los gobiernos que regulen y supervisen la IA equivale a haber pedido a los fabricantes de velas que supervisen el desarrollo de la electricidad. Sacando muy pocas excepciones, casi todos los gobiernos han demostrado ser ineficaces, ineficientes, algunos corruptos, y bastantes ineptos. ¿Como van a supervisar la tecnología más avanzada de la historia de la humanidad?
Tercera pregunta: ¿quién puede marcharse?
Llevo veinte años repitiendo que una marca es una promesa cumplida en el tiempo. Nunca había visto esa definición puesta a prueba de forma tan literal como en estos dos textos.
Suleyman ofrece una promesa. Y no una cualquiera. Cuando escribe que su producto debe hacerte más capaz y no más dependiente, está renunciando en voz alta a la métrica más rentable de los últimos veinte años. La industria digital entera se financió fabricando dependencia y llamándola compromiso del usuario. Si esa frase va en serio, es uno de los posicionamientos de marca más valientes de la década. Si no va en serio, es el lavado de cara más caro jamás redactado.
Dorsey no ofrece promesas. Ofrece una puerta. Su párrafo final no habla de tecnología, habla de poder irse. De que el sistema funcione en tu propio ordenador. De poder modificarlo, decidir quién ve tus datos, y seguir usando lo que has construido el día que el proveedor cambie de opinión. Y lo dice con todas las letras: no quiere que nuestra independencia dependa de la promesa de una empresa de mantener precios justos y políticas razonables. Quiere que las empresas tengan que seguir ganándose que nos quedemos.
Ahí está la conexión entre los tres.
Andreessen dijo que no hacía falta prometer nada, porque no había nada que temer. Suleyman promete. Dorsey contesta que una promesa solo vale algo cuando el otro puede irse.
Y tiene razón. Una relación de la que no puedes salir no es confianza, es cautiverio con buena atención al cliente. Una marca que solo te retiene porque no hay alternativa no es una marca, es un peaje. La fidelidad medida en ausencia de opciones no es fidelidad, es inventario.
Por eso estos dos textos no son rivales, aunque sus autores los hayan escrito como si lo fueran. Un reglamento sin salida posible es una jaula bien decorada. Una salida sin ningún reglamento es un descampado. Lo que construye confianza —en una empresa de software, en un banco, en una panadería— es la suma de las dos cosas. Alguien que promete algo concreto y comprobable, y una puerta abierta que hace que esa promesa le cueste algo.
¿Y qué hacemos nosotros con todo esto?
Aquí es donde suelo perder la paciencia con los artículos sobre inteligencia artificial. Diagnostican maravillosamente y pocos proponen acciones, opciones, alternativas. Así que voy a mojarme, aunque sea de forma modesta.
Si eres una persona. Antes de instalar nada, antes de volcar tu trabajo en ninguna herramienta, pregúntate: ¿podría irme? ¿Puedo sacar lo que he construido? ¿Puedo llevármelo a otro sitio? Y después pruébalo una vez al año. La única forma de saber si una puerta existe es abrirla. Cuando descubres que no se abre ya es tarde.
Si diriges una empresa. Deja de comprar solo capacidades y empieza a comprar condiciones de salida. Exige por escrito lo que pide Dorsey, las pruebas a las que se ha sometido el sistema, sus fallos conocidos, quién da la cara si algo sale mal. Y añade la cláusula que casi nadie incluye y que lo decide todo, qué ocurre con mis datos y con mi trabajo el día que vosotros cambiéis de opinión sobre precios, condiciones o prioridades. Porque van a cambiar de opinión. Todas lo hacen.
Si construyes una marca. La pregunta ya no es qué prometes. Todo el mundo promete, y promete bonito. La pregunta es qué te cuesta romper la promesa. Una promesa que no cuesta nada incumplir no es una promesa: es publicidad. Si quieres que tu compromiso signifique algo, ponle precio tú mismo antes de que te lo ponga el mercado.
Y una última, para todos. Aprende lo suficiente como para poder discrepar. No hace falta programar. No hace falta entender cómo se entrena un modelo. Hace falta poder distinguir un argumento de un miedo, y una prueba de una creencia. Esa es la alfabetización que toca ahora, y no está en ningún máster: está en leer, contrastar y desconfiar un poco de todo el mundo, empezando por quien te cae bien.
Para terminar
Ciberataques automatizados, fraude masivo, desinformación, ingeniería social, armas autónomas, vigilancia, ataques a infraestructuras, propaganda personalizada, investigación biológica, y varios etcéteras. Éstos no son riesgos hipotéticos de una inteligencia futura. Ya son una amenaza real, hoy.
Ninguno de los cuatro, Andreessen, Dorsey, Suleyman, Sankar, está discutiendo de verdad si las máquinas nos van a matar. Están discutiendo quién merece nuestra confianza. Si el que fabrica, el que vigila, el que se reserva el derecho a marcharse, o el que sospecha de todos los anteriores.
Y la respuesta, es que nadie la merece por decreto. La confianza no se declara en un documento, por bienintencionado que sea. No se consigue desacreditando al que avisa. No se garantiza publicando el código. Se gana cada día, con hechos que cualquiera puede verificar, ante gente que podría irse mañana y elige quedarse.
Y conviene medir bien lo que se nos está pidiendo, porque no es poco. Ninguna de estas compañías nos pide solamente que confiemos en su producto. Nos pide que confiemos en su idea de qué futuro nos conviene. Eso es muchísimo más de lo que ninguna marca había pedido jamás a nadie, y deberíamos exigir muchísimo más a cambio.
Eso es una marca. Siempre lo fue. Resulta que también es la única forma de gobernar algo que ha funcionado nunca.
Las personas importan más que la máquina, escribe Suleyman. Estoy de acuerdo. Pero para que esa frase signifique algo, las personas tienen que poder elegir.
Seguiré leyendo. Esto no ha hecho más que empezar. Y en lo referente a la inteligencia artificial, no estoy seguro de poder afirmar que lo mejor está por venir.
Te escribo cuando tengo algo que contarte.
Recibe un email cada vez que publico algo nuevo.
Tu correo solo será utilizado para mandar lo último que publique. Política de privacidad
Related posts
