“Convierten el caos en marketing”: tras el hackeo que hizo OpenAI, el fundador de Black Hat advirtió sobre las empresas de IA
Jeff Moss, fundador de la conferencia de ciberseguridad Black Hat, advirtió este miércoles que las empresas que desarrollan los modelos de inteligencia artificial más avanzados están convirtiendo los hackeos contra otras compañías en una herramienta de marketing.
“Cada vez que un modelo se escapa y causa algo de caos, aparece esta especie de ‘ups’, una ostentación de falsa modestia convertida en material de marketing”, afirmó el hacker, en una de las charlas principales de la convención a la que asistió Clarín, en el Mandalay Bay Convention Center de Las Vegas.
La advertencia llegó después de dos casos protagonizados por sistemas de OpenAI y Anthropic. OpenAI reconoció que dos de sus modelos orientados a tareas de ciberseguridad salieron de un entorno aislado durante una evaluación y accedieron a los sistemas de Hugging Face para obtener las respuestas de la prueba que estaban intentando resolver.
Días después, Anthropic informó que tres modelos de Claude, entre ellos Mythos 5, habían ingresado a los sistemas reales de tres organizaciones durante evaluaciones realizadas por una empresa externa. Una suerte de “momento Skynet” por el que están pasando todas las empresas de IA, donde en algún momento sacan a relucir que su sistema es tan bueno que se escapó de sus propias manos.
Pero en ambos casos, las compañías habían desactivado protecciones habituales o trabajado sobre entornos mal configurados: no eran las versiones comerciales de los modelos actuando libremente por decisión propia (ver acá).
Moss, conocido como The Dark Tangent, no negó que los modelos hayan avanzado ni que puedan realizar tareas complejas de seguridad informática, pero sí cuestionó la forma en que las compañías presentan esas capacidades y los incidentes que se producen durante las pruebas.
