La Policía Federal Argentina allanó, el 28 de agosto, la vivienda de un joven de 15 años en Quilmes tras una alerta del FBI que señalaba conversaciones con ChatGPT en las que el menor describía un plan para llevar adelante un tiroteo en su colegio.
Cómo empezó la investigación
Todo comenzó el 19 de agosto, cuando el Agregado Jurídico del FBI en la Embajada de Estados Unidos en Argentina notificó a las autoridades locales sobre un usuario de Gmail que mantenía diálogos con la IA en los que planificaba un ataque armado contra sus compañeros de escuela, inicialmente previsto para 2027, aunque el adolescente habría sugerido adelantar la fecha. Según trascendió, uno de los elementos que encendió las alarmas fue el interés manifestado por el joven en comprar ropa y elementos tácticos, además de haber mencionado en los chats que era menor de edad.
A partir del rastreo de la conexión IP, la investigación —a cargo del Departamento Federal de Investigaciones y de la Unidad de Investigación Antiterrorista— logró ubicar el domicilio en la zona de Quilmes en apenas ocho días.
El allanamiento
Con la orden librada por el Juzgado de Garantías del Joven N°1 del Departamento Judicial Quilmes, a pedido de la Fiscalía de Responsabilidad Penal Juvenil N°1 que encabeza Walter Bruno, un grupo de agentes ingresó a la vivienda y secuestró:
- Dos teléfonos celulares (uno de uso personal y otro utilizado como computadora)
- Dos pares de guantes tácticos
- Un gorro tipo «piluso» con camuflaje militar
- Una balaclava con diseño de calavera
- Un pasamontañas con camuflaje militar
- Anteojos de protección táctica de color negro
También se halló una fotografía en la que el menor aparecía probándose máscaras similares a las secuestradas. Sin embargo, el operativo no permitió encontrar armas de fuego ni otros elementos que evidenciaran una preparación material inmediata para concretar un ataque, y la pesquisa tampoco detectó vínculos del joven con foros sobre ataques escolares.
Situación procesal
El adolescente fue acusado de intimidación pública en grado de tentativa y no prestó declaración durante el procedimiento. Sus padres fueron citados junto a él ante la Fiscalía de Responsabilidad Penal Juvenil.
Alejandro De Mena, auxiliar letrado de la fiscalía interviniente, explicó que, al tener 15 años y no registrar antecedentes, el joven es inimputable ante la ley penal argentina, por lo que se espera que la causa avance hacia su archivo, aunque continúa el análisis de los dispositivos secuestrados para reconstruir el alcance del plan.
El costado incómodo: alguien lee lo que le contamos a la IA
Más allá del desenlace judicial, el caso deja una pregunta incómoda dando vueltas: ¿quién estaba leyendo esa conversación, y cuántas otras se leen todos los días sin que nadie se entere?
Lo que activó todo el operativo no fue una denuncia de un familiar, un docente o un compañero de colegio: fue un sistema de monitoreo automático de OpenAI que analizó lo que un chico de 15 años tipeaba en la intimidad de su casa, lo marcó como riesgoso, escaló el caso a revisión humana y terminó derivándolo al FBI, que a su vez avisó a la Argentina. Todo eso ocurrió sin que el usuario lo supiera, sin una orden judicial previa a esa primera lectura, y en un intercambio que cualquiera podría suponer privado.
La propia empresa no lo esconde: en su documentación de transparencia, OpenAI explica que combina clasificadores automáticos, «coincidencia de hash», listas de bloqueo y revisión humana para supervisar la actividad en sus servicios, y que ese monitoreo se hace «de acuerdo con» su política de privacidad, no al margen de ella. Es decir, no es una fuga de datos ni un hackeo: es, literalmente, cómo está diseñado el sistema.
Ese diseño no es exclusivo de este caso. En marzo, tras un tiroteo masivo en Tumbler Ridge, Canadá, OpenAI anunció que iba a reforzar sus mecanismos de reporte a pedido del gobierno canadiense. En esa misma discusión, un profesor de la Universidad de Columbia Británica advirtió sobre un riesgo que rara vez se menciona en las noticias sobre «la IA que evitó una tragedia»: estos sistemas de vigilancia automatizada también pueden generar falsos positivos capaces de involucrar a usuarios inocentes en investigaciones penales.
Y ese riesgo no es abstracto en este expediente. El propio fiscal que llevó la causa en Quilmes admitió que el operativo no encontró armas de fuego ni ningún elemento que demostrara una «preparación material inmediata» para un ataque, y que la pesquisa tampoco halló vínculos del chico con foros sobre ataques escolares. Lo que sí hubo fue una charla con un chatbot, algo de ropa táctica y una foto probándose máscaras. Alcanzó para movilizar al FBI, a la Policía Federal y a un juzgado de garantías en apenas ocho días.
Nadie discute que, si un adolescente de 15 años efectivamente estaba planeando matar compañeros, corresponde intervenir. El punto que empieza a instalarse en el debate público es otro: qué tan cómodos deberíamos estar con que una empresa privada lea, clasifique y reenvíe a agencias de seguridad de otro país lo que millones de personas —muchas de ellas menores— tipean en una ventana de chat pensando que están hablando «con una IA» y no con un sistema de moderación que puede terminar tocando la puerta de sus casas.
La otra cara: ¿vigilancia o red de contención?
Quienes defienden estos mecanismos plantean una lectura distinta: si la alternativa a «leer» ciertas conversaciones de riesgo es no leer ninguna, casos como el de Quilmes —o directamente una masacre escolar consumada— podrían no detectarse nunca. Bajo esa mirada, el monitoreo automatizado de señales de daño grave (violencia extrema, autolesión, abuso a menores) funciona menos como espionaje generalizado y más como una red de contención de última instancia, comparable a cómo otras plataformas ya reportan de oficio material de explotación infantil a organismos como el NCMEC en Estados Unidos.
El debate de fondo, entonces, no es si la IA «espía» o no —los propios términos de uso ya avisan que existe supervisión—, sino dónde trazar la línea entre privacidad y prevención, quién audita esos algoritmos, qué margen de error se tolera y qué pasa con los falsos positivos que quedan en el camino, muchas veces sin la misma cobertura mediática que sí tienen los casos «exitosos».
