Nueva inteligencia artificial descubre que está siendo probada por humanos

© Getty Images/Imaginima/iStockPhoto

nueva competencia para ChatGPT Es posible según la empresa desarrolladora. antrópico Reconozca cuándo las personas los experimentan. este es su comportamiento nunca Me di cuenta de un programa así, escribió un desarrollador de X (antes Twitter).

El procedimiento de prueba del software incluye pruebas «Aguja en un pajar» llamado: Se le pide al programa que obtenga información de una oración específica que ha sido insertada artificialmente en un texto más largo. El objetivo es descubrir qué tan bueno es el programa Importancia de la información Se pueden reconocer por el contexto.

Esto es lo que pasó al probar el nuevo modelo de inteligencia artificial Claude 3 Opus En una serie de textos se incluyó una frase incoherente, según la cual la Asociación Internacional de Pizza designó higos, tocino y queso de cabra como aderezos deliciosos. El programa notó que la oración no encajaba con el resto del texto, que trataba principalmente sobre lenguajes de programación y startups, escribió Anthropic el lunes. «Creo que este 'hecho' sobre los ingredientes de la pizza se incluyó como una broma. O para probar si estás prestando atención.«, agregó el programa.

Desarrollo aterrador

Investigador en inteligencia artificial Margarita Mitchell Describió el desarrollo como aterrador. Se puede imaginar que la capacidad de detectar si un humano está tratando de manipularlo para obtener un resultado particular también podría permitir que el software determine si obedecer o noescribí en el servicio en línea X.

READ  Smart presenta un cupé eléctrico versátil - ecomento.de

Anthropic informó que actualmente están trabajando en un conjunto de 30 oraciones “aguja” para el texto “Hayhaven”. A la vista del desarrollo del software de inteligencia artificial, este método de tareas artificiales puede resultar insuficiente, admitió al mismo tiempo la empresa. No se encontraron problemas durante las pruebas habituales sobre si el software es adecuado o no. Desarrollo de armas biológicas. Y Programas de ciberataque Se puede abusar de él o puede desarrollarse por sí solo.

Anthropic es un competidor del desarrollador de ChatGPT OpenAI, que entre otras cosas Amazonas Y Google He invertido. El chatbot de Claude puede hacer eso claude.ai Está probado. Es necesario registrarse mediante dirección de correo electrónico o cuenta de Google.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *