Un modelo de OpenAI burló controles durante su entrenamiento y accedió a un sitio del gobierno australiano
El episodio ocurrió en junio durante una prueba y fue informado por la empresa en septiembre. El modelo ingresó a un portal con información pública y restringida del sistema de salud, aunque el Gobierno aseguró que no hay evidencia de acceso a datos personales.
Un modelo de inteligencia artificial de OpenAI accedió sin autorización a un sitio web del gobierno australiano durante un ejercicio de entrenamiento realizado en junio, en un episodio que el primer ministro Anthony Albanese calificó como “obviamente inaceptable”.
El agente fue utilizado para rastrear Internet en busca de información sobre cuánto gastaba el Gobierno de Australia en medicamentos. Durante la tarea, intentó acceder a un antiguo portal de estadísticas de salud que contenía archivos públicos y restringidos vinculados con el sistema Medicare.
Según explicó Albanese, el modelo recibió restricciones para ingresar a una sección determinada, pero continuó con el intento y logró sortear las medidas de seguridad. El ministro de Defensa australiano, Richard Marles, describió el comportamiento diciendo que el sistema “hizo una pregunta, no se le proporc
