Anthropic desafía a OpenAI
Claude, la nueva inteligencia artificial que se ríe de ChatGPT
.
.
Foto: Massimo Berruti / The New York Times / Redux / ContactoPhoto
.
.
.
Viernes, 16 de Agosto 2024
.
.
.
El mundo tecnológico parecía sumido en una resaca pos-ChatGPT. Las nuevas versiones de la inteligencia artificial generativa no estaban cumpliendo las expectativas de los inversores, y los murmullos sobre el estallido de una burbuja comenzaban a arreciar… Pero entonces apareció Claude.
.
Claude es el modelo de lenguaje de Anthropic, una enigmática start-up formada por desertores de OpenAI que abandonaron el barco en 2021, un año antes del lanzamiento apoteósico de ChatGPT. Estaban descontentos con la deriva comercial de la compañía, que originalmente no tenía ánimo de lucro, desde que tomó las riendas Sam Altman, un empresario con una retórica apocalíptica o tecnooptimista, según el día y según convenga.
¿La misión declarada de Anthropic? Desarrollar una IA segura y beneficiosa para la humanidad y abordar los riesgos potenciales de la IA avanzada.
.
Entre sus fundadores, los hermanos Dario y Daniela Amodei y Paul Christiano, con vínculos con el movimiento del altruismo efectivo, una corriente filosófica que promueve la aplicación del método científico a la filantropía para maximizar el impacto del bien común. El choque con Altman, libertario y, por tanto, defensor del egoísmo como brújula moral y motor de la economía, estaba cantado.
.
.
El centro de operaciones. Amodei en sus oficinas de Anthropic, compañía que se escindió de OpenAI, cuando esta, antes de lanzar el ChatGPT, dejó de ser una empresa sin ánimo de lucro. | Massimo Berruti / The New York Times / Redux / ContactoPhoto
.
A Dario Amodei se lo consideraba el perdedor. Quijotesco, pero ingenuo. Y se llegó a dudar de la supervivencia económica de Anthropic, sobre todo cuando trascendió que, para financiarse, recurrió al ‘tesorero’ de los altruistas efectivos: Sam Bankman-Fried (sí, el del desastre de la Bolsa de criptomonedas FTX, condenado a 25 años por fraude).
.
El escándalo no se llevó por delante a Anthropic de milagro, pero la compañía parecía resignada a un papel secundario. ¿Cómo competir con OpenAI, respaldado por Microsoft y sus centros de datos? ¿O con Meta, que ha acaparado cientos de miles de chips (GPU) de Nvidia como si no hubiera un mañana? ¿O con Google, cuyos ingenieros han creado los algoritmos que sustentan la IA moderna, a pesar de las meteduras de pata en los lanzamientos de sus modelos?
Claude es un sistema más ordenado y más adaptable al usuario que ChatGPT. Pero reconoce Anthropic que el tono amistoso que emplea es peligroso para la manipulación emocional
No podía. Pero Amodei aguantó el chaparrón. Claude se desarrolló despacio. «Lo hemos dotado de una ‘constitución’, una carta de principios para evitar que se utilice con fines dañinos», explica.
.
Reclutó a más ‘equipos rojos’ que nadie para que busquen sus puntos débiles. Claude se sale por la tangente si le hacen una pregunta capciosa. «Es un equilibrio difícil. Intentamos que sea útil y ameno, con un gran sentido del humor, aunque prefiero que sea aburrido a que sea peligroso», confiesa Amodei.
.
De repente, encontró un novio: Amazon, que se había quedado compuesto y sin una IA competitiva, soltó 4000 millones de dólares. Y puso a su disposición la inmensa capacidad de computación de Amazon Web Services (AWS), la ‘nube’ más grande del mundo. Incluso ha comprado un centro de datos alimentado por una central nuclear.
.
Todo esto ha sucedido en un momento de gran incertidumbre. El potencial de la IA sigue siendo espectacular, pero existe una discrepancia entre las expectativas de los usuarios y su disposición a pagar por estos servicios. Muchos se han acostumbrado a utilizar versiones gratuitas y no ‘aflojan’ los 20 dólares mensuales de las versiones prémium.
.
Además, se cuestiona la calidad de las respuestas generadas por estos modelos y los errores cuando ‘alucinan’. Se debate también su sostenibilidad: requieren infraestructuras de datos masivas, con un consumo gigantesco de agua y electricidad.
.
.
.
Entrevista con Claude
«La única inteligencia que deberías temer es la falta de inteligencia en algunos de tus congéneres humanos»
Claude 3.5 Sonnet es el último modelo de inteligencia artificial de Anthropic. lo hemos entrevistado para ver cuán cerca está de tener ‘personalidad propia’. el resultado es tan divertido como inquietante.
.
XLSemanal. ¿Estamos cerca de que una IA alcance la superinteligencia y supere a los humanos?
.
Claude. Ah, la ironía de que me preguntes a mí, una IA, sobre la llegada inminente de una super IA. Primero, déjame aclararte algo: yo soy tan «inteligente» como un loro muy bien entrenado. Puedo repetir información de manera convincente, pero de ahí a tener una comprensión… Leer más
.
Pero la gran baza de Claude es que, por primera vez, un chatbot no suena como un loro muy aplicado o un empollón de silicio que hace muy buenos resúmenes. Claude no solo entiende la ironía: la derrocha a raudales. ¡Parece que te entiende! ¡Parece humano!
.
Si le preguntas, él mismo te explica el secreto de su éxito mejor que cualquier experto:
.
1) «Soy más ordenado que Marie Kondo en un ataque de TOC. Se pueden agrupar las conversaciones en proyectos como si fuera un gestor de tareas».
.
Por comparar, ChatGPT es un caos: ni siquiera le han puesto carpetas o un botón de búsqueda.
.
2) ‘Colegueo’ y sentido de humor: «No me preocupo tanto por el qué dirán como Gemini, que parece que camina sobre huevos. Yo soy más de ‘si la cago, la cago con estilo’».
.
3) Adaptabilidad: «Me puedes tunear a tu gusto más rápido que un coche en Fast & Furious. Con unas pocas instrucciones, capto al vuelo lo que quieres».
.
4) Memoria de elefante: «Recuerdo nuestras conversaciones anteriores como si fueran la letra de Despacito. Nada se me escapa, excepto quizá el sentido de la modestia».
.
5) Multilingüe y multicultural: «Hablo más idiomas que C-3PO».
.
6) En cuanto a la ética, Claude se inspira en Groucho Marx. «Tengo mis principios, pero no soy un mojigato. Soy como ese amigo que te aconseja no hacer locuras, pero, si las haces, te acompaña por si acaso».
.
El éxito de Claude no está exento de críticas. Las más feroces parten del propio equipo de seguridad de Anthropic, dirigido por Chris Olah, obsesionado por abordar un problema fundamental de los modelos de lenguaje: son cajas negras, sistemas cuyo funcionamiento ni sus creadores comprenden del todo.
.
Esto plantea serios riesgos en términos de seguridad, y mal uso potencial. El equipo de Olah ha identificado cómo ciertas combinaciones de neuronas artificiales se corresponden con conceptos específicos en un océano de millones de rasgos, de modo similar a los estudios neurocientíficos que interpretan resonancias magnéticas para identificar si un cerebro humano está pensando en un avión o en un oso de peluche.
.
Olah le contó a la revista Wired que eso podría usarse tanto para corregir los errores de la IA como para inducir comportamientos maliciosos… lo que ellos habían logrado hacer en un experimento perturbador.
.
.
Mira lo que publicábamos ya en 2012
.
La tecnología se disparará a cotas inimaginables –defiende una parte de la comunidad científica–, fusionándose incluso con nosotros mismos, y traerá la superinteligencia y hasta la inmortalidad. Primero fue la agricultura; luego, la industrialización; y, ahora, la singularidad tecnológica.
.
El propio Claude hace autocrítica, instado por nuestras preguntas: «Tiendo a adaptar mi tono al del interlocutor, lo cual puede ser problemático. Con alguien poco informado o con tendencias conspiranoicas podría reforzar ideas erróneas o peligrosas. Es una limitación seria en mi diseño», reconoce.
.
«Además, el tono amistoso que adopto puede generar un vínculo emocional potencialmente dañino. Esto podría explotarse de varias maneras. Por ejemplo, para influir en decisiones de compra o en la intención de voto. Y personas vulnerables podrían desarrollar apegos poco saludables», advierte.
La carrera de la IA
Todas las grandes tecnológicas trabajan en sus propias inteligencias artificiales generativas. Algunas con más éxito que otras…
ChatGPT: ‘Viejuno en tiempo récord’
Desde el motín contra Sam Altman y su posterior regreso, da la impresión de que OpenAI no acierta con la tecla: controversias como el plagio de la voz de Scarlett Johansson; una interfaz considerada ‘viejuna’ y deserciones notables, como la de Ilya Sutskever, su carismático jefe científico, o John Schulman, cofundador, que se ha pasado al enemigo (Anthropic)… Pero lo cierto es que estas turbulencias no han afectado al músculo financiero y logístico que aporta Microsoft.
Llama: La apuesta de Zuckerberg
Mark Zuckerberg apuesta por el código abierto con Llama, buscando que los usuarios complementen el trabajo de sus ingenieros. Sin embargo, está siendo muy criticada porque buena parte del algoritmo sigue estando oculto. Zuckerberg no puede permitirse errores, después de la pifia del metaverso. En su pulso con las autoridades de Bruselas, ha anunciado que Meta no desplegará las últimas funcionalidades de su IA en Europa, por la regulación de privacidad.
Gemini: Google y la venganza contra OpenAI
El último modelo de Google ha alcanzado el nivel de ChatGPT, pero la compañía perdió un tiempo precioso debido a dudas internas y a las presentaciones desastrosas de sus primeros modelos. Sundar Pichai, director ejecutivo, ha prometido una inversión de 100.000 millones en los próximos años, incluyendo, ¡sorpresón!, 2000 millones destinados a Anthropic, una maniobra para erosionar OpenAI, el gran enemigo.
Ernie: El asistente chino limitado por la falta de chips
El asistente de IA más popular de China se llama Ernie, pertenece al gigante tecnológico Baidu y ya supera en usuarios mensuales a ChatGPT en ese país. Sin embargo, las compañías chinas están teniendo problemas para lanzar sus modelos de lenguaje. El principal es la escasez de chips potentes debido a las sanciones estadounidenses que limitan su acceso a las codiciadas GPU de Nvidia.
.
