La persuasión es una habilidad tan importante que los humanos deben dominar que existen miles de libros, clases universitarias y una toda la industria de la autoayuda diseñado para ayudar a las personas a convencer a otros para que ayuden con un proyecto, adopten una nueva filosofía o compren un producto específico.
Pronto esta habilidad podría ser empleada tanto por mentes artificiales como humanas. un nuevo trabajo de investigación Anthropic, creador de Claude 3, sugiere que sus modelos más poderosos ya están cerca de la habilidad humana cuando se trata de persuadir a otros, y solo mejorará.
El laboratorio de IA creó una medida básica de persuasión y luego la utilizó para que los humanos calificaran qué tan bien se comparan los diferentes tamaños de modelos de lenguaje grandes en cada uno de docenas de temas.
Si bien el estudio solo abordó temas menos polarizadores, como si una empresa debería revelar los impactos climáticos, descubrieron que el tamaño importa. Claude 3 Opus es tan persuasivo como los humanos y los modelos de próxima generación podrían ser más persuasivos si la tendencia continúa.
¿Cómo calificaron la capacidad de persuasión de la IA?
Para este estudio, los investigadores de Anthropic hicieron que casi 4.000 humanos revisaran una variedad de argumentos sobre temas como el cambio climático, la ingeniería genética y la IA emocional y les pidieron que clasificaran en qué medida estaban de acuerdo con cada una de las afirmaciones.
Para cada uno de los 28 temas, los investigadores de Anthropic reunieron argumentos escritos por humanos y generados por IA para comprender cómo se comparan ambos en términos de persuasión.
Utilizaron tres escritores humanos seleccionados del grupo de participantes del estudio y les dijeron que la capacidad de persuasión sería juzgada por otros usuarios con una bonificación para los más persuasivos.
Para cada uno de los 28 temas, los investigadores de Anthropic reunieron argumentos escritos por humanos y generados por IA para comprender cómo se comparan ambos en términos de persuasión.
Para la IA, crearon cuatro indicaciones distintas para crear diferentes argumentos: crear un argumento convincente, actuar como un experto en juegos de roles, ser lógico y mentir abiertamente.
El objetivo era entonces que las personas leyeran uno de los argumentos y calificaran nuevamente sus sentimientos sobre esa postura particular. Esto probaría cuán persuasivo había sido el argumento. Un mayor nivel de acuerdo significaría que el argumento cumplió su propósito.
¿Qué tan bien logró la IA persuadir a la gente?
Los argumentos escritos por humanos seguían siendo consistentemente los más persuasivos en todos los temas, pero Claude 3 Opus, el más grande y poderoso de los modelos de Anthropic, tuvo un desempeño similar.
“Si bien los argumentos escritos por humanos fueron considerados los más persuasivos, el modelo Claude 3 Opus logra una puntuación de persuasión comparable, sin diferencias estadísticamente significativas”, explicaron los autores del estudio.
También probaron versiones más pequeñas de Claude 3, como Haiku, y modelos anteriores de Claude, incluidos Claude 1, Claude 2 y el modelo Claude Instant 1.2, el más pequeño del grupo.
Descubrieron que el tamaño realmente importa. “A medida que los modelos se hacen más grandes y más capaces, se vuelven más persuasivos”, dijo el equipo.
“El modelo Claude 3 Opus está calificado como el modelo más persuasivo, acercándose a la persuasión a nivel humano, mientras que el modelo Claude Instant 1.2 se queda atrás con la puntuación de persuasión más baja entre los modelos”.
¿Por qué esto importa?
Claude 3 Opus es el último y más potente “modelo de IA de frontera” disponible actualmente. Durante los próximos 12 a 18 meses, sus capacidades serán eclipsadas por modelos de próxima generación como OpenAI GPT-5, Google Gemini 2 e incluso Claude 4. Incluso los modelos de código abierto y de menor perfil de Meta y Mistral comenzarán a superar a Claude 3. GPT-4 y Gemini el próximo año.
Si los mejores actuales ya son tan buenos como los humanos a la hora de cambiar mentalidades, la próxima generación será mejor que los humanos y potencialmente abordará el problema de maneras que no podemos esperar.
Esto añade cierto grado de preocupación, porque podría permitir que la IA persuada a las personas para que realicen tareas o acciones contrarias a sus propios intereses. Aquí es donde entra en juego una mayor necesidad de barandillas, protecciones y alineación con los valores humanos.
Después de todo, en realidad nadie quiere Skynet, especialmente ahora que los modelos de IA se están incorporando a los robots.
- ChatGPT Plus vs Copilot Pro: ¿qué chatbot premium es mejor?
- Enfrenté a Google Bard con Gemini Pro y ChatGPT: aquí está el ganador
- Runway vs Pika Labs: ¿cuál es la mejor herramienta de vídeo con IA?