Marcha pidiendo medidas contra la violencia con armas de fuego en las escuelas.

El sociólogo Abraham Maslow, puso a la seguridad en el  segundo lugar de su pirámide de las motivaciones humanas. El primero lo ocupa la satisfacción de las necesidades relacionadas con la supervivencia.

En un país como los Estados Unidos, donde la sociedad no le encuentra solución a los tiroteos en establecimientos educativos,  aparecieron tres empresas privadas que usando inteligencia artificial y aprendizaje automático, aseguran poder prevenir esos ataques. El precio no es tan caro ¿El costo? Darle a una empresa información completa sobre la actividad en redes sociales y cuentas de correos electrónicos de menores de edad.

Los tres grandes hermanos

La modalidad de trabajo de las tres compañías; Bark Technologies, Gaggle.Net y Securly Inc es similar. Utilizando la inteligencia artficial y el aprendizaje automático escanean correos electrónicos, textos, documentos y actividad en redes sociales. El objetivo es encontrar indicios tempranos de acoso cibernético, sexting, uso de drogas y alcohol o depresión. Además, procuran encontrar estudiantes que puedan representar un rieesgo violento no sólo para ellos mismos, sino también para sus compañeros de colegio. Cualquier semejanza con Minority Report o Person of interest es pura coincidencia.

En caso de encontrar señales de alarma sobre problemas potenciales, alerta a los administradores escolares, los padres y los oficiales de policía. Esto dependiendo de la gravedad de las mismas.

En una prueba piloto realizada en 75 escuelas por la empresa Bark Technologies se descubrió una amenaza de bomba y ataques con armas y algunos (no especificados) problemas bastante alarmantes

Cuando se detecta algún problema se envía una alerta de texto y/o correo electrónico a los padres y a las escuelas, con pasos recomendados sobre cómo resolverlo. Una versión tecnológica de lo que sucedía cuando yo era chico. Citaban a tus padres y le recomendaban llevarte a un psicólogo, médico o profesor particular. Casualmente siempre tenían uno muy bueno para recomendarte.

Bark no cobra a las escuelas por el servicio. Su ganancia proviene de lo que pagan los padres. El costo por familia es de 9 dólares por mes o 99 por año. Por ese dinero se monitorizan hasta 25 plataformas de redes sociales incluyendo Twitter, Facebook, Snapchat e Instagram.

Multipliquen esos 9 dólares mensuales por 2,6 millones de chicos (Un poco menos porque el abono es por familia y muchos de ellos deben de ser hermanos) De esa masa de alumnos se obtienen entre 35000 y 55000 alertas mensuales. ¿Cuántas realmente graves? 16 en 10 meses

Otra de las empresas dedicadas a controlar a los estudiantes es Gaggle.Net. Ellos cobran 6 dólares por estudiante por año. La firma asegura haber prevenido 547 suicidios el año pasado y 447 desde julio de este año hasta ahora. Por otra parte dicen haber evitado 240 agresiones con armas.

Como control para falsos positivos, cuando la inteligencia artificial detecta un problema potencial es derivado a un experto humano.

La tercera empresa,Securly, cobra $3 por estudiante por año por un servicio llamado Filtro, con complementos premium que pueden añadir alrededor de $2.50 por estudiante al costo. Uno de estos complementos combina la inteligencia artificial con analistas humanos entrenados. ¿Su gran éxito? Encontrar estudiantes que buscaban métodos de suicidio en Youtube.

Elegir privacidad o seguridad ¿Quién dijo que hay que elegir?

El períodico USA Today, de donde tomamos la noticia, plantea la cuestión de la privacidad en una sección del artículo, pero no entrevista a nadie que no sea de la empresa o cliente del servicio. Podrían, por ejemplo haber citado a Benjamin Franklin:

Aquellos que renunciarían a una libertad esencial, para conseguir un poco de seguridad momentánea, no merecen ni libertad ni seguridad

Lo que si hacen es reconocer las limitaciones del sistema:

• Ninguno de los sistemas utilizados es perfecto. Puede haber falsos positivos y no detectar amenazas reales.
• La escuela solo puede vigilar aquellos dispositivos de su propiedad entregados a los estudiantes o el uso de cuentas de correo manejada por la institución y servicios asociados a ellas.
• Los estudiantes muchas veces saben más de tecnología que sus padres y conocen redes sociales y servicios de mensajería de los que ellos nunca escucharán hablar hasta que pasen de moda.

No parece haber pruebas de que estos servicios permitan detectar algo que una buena contención por parte de las familias, los maestros y otros profesionales en contacto directo con los jóvenes no pueda hacer. Mientras tanto se están generando un montón de datos sobre el comportamiento adolescente que pueden ser vendidos a otras empresas o robados. Imagina que vas a pedir un trabajo, tu futuro jefe lee que fuiste a tal escuela, pide los datos y se entera que te quisiste suicidar a los 14 años.