«¡Hola, Martín! Soy Boti, el chatbot de la Ciudad. Sé que no ves la hora de que esto se termine. ¡Todos estamos igual! Pero, por ahora, tenemos que seguir cuidándonos».
Amigable, rápido y eficaz. La tarea que desempeñó el chat del Gobierno de la Ciudad en épocas de pandemia fue elemental para la asignación de turnos de testeos, vacunación y atención médica por el Covid, y para responder consultas administrativas. En pocos segundos, luego de intercambiar mensajes con datos personales (dirección, documento, edad), Boti daba respuesta. Lo que nadie se preguntó es en manos de quién queda nuestra información personal.
Un informe de la Auditoría General de la Ciudad alerta que los datos de millones de personas son potestad de la empresa privada que creó y maneja el Boti, la cual obtuvo contratos con el gobierno porteño por casi 115 millones de pesos y no cumple con las medidas de seguridad correspondientes para proteger la información personal, ante la falta de regulación de la administración larretista.
En 2020, Meta ponderó el trabajo realizado por el chatbot durante la pandemia. En el informe de BOTI, detalla que “Buenos Aires fue la primera ciudad del mundo en integrar WhatsApp a su protocolo frente al COVID-19”.
El sistema fue impulsado por la Secretaría de Innovación y Transformación Digital, y funciona a través de una red neuronal de inteligencia artificial que llegó a ser capaz de clasificar sonidos de voz, respiración y tos. Pasó la pandemia y a inicios de 2022 Boti ya ofrecía más de 70 posibles trámites. Ese año agregó otros 15, desde solicitar la reimpresión de la licencia de conducir o un nuevo DNI hasta turnos médicos en los CeSAC y centros de atención barrial.
Todo eso representó más flujo personal de datos, manejados por un privado: el chat es desarrollado por la empresa Botmaker, liderada por Alejandro Zuzenberg, exdirectivo de Google y extitular de Facebook Argentina, y que por año factura decenas de millones de dólares.
Boti y el marco regulatorio
La auditoría porteña, integrada por cinco auditores de JxC y dos del FdT, relevó los sistemas, procesos, servicios, y tecnologías que garantizan la operatividad de Boti. En su informe, el organismo de control afirma que la empresa «no adjunta copia de los Acuerdos de Niveles Operativos firmados con la Agencia de Sistemas de Información (Ley Nº 2.689)» y que «no consta la documentación respaldatoria que asegure la firma de convenios de confidencialidad y no divulgación del código fuente con las empresas desarrolladoras de BOTI».
Además Botmaker no informó «si existen procedimientos de evaluación y clasificación de la información según su criticidad, nivel de confidencialidad, integridad, disponibilidad y privacidad gestionada en BOTI».
Beatriz Busaniche, presidenta de Fundación Vía Libre, una ONG que promueve el software libre, destacó al sitio El Auditor que «es imperioso dotar de un marco regulatorio apropiado la integración de estos sistemas, que no suponga algún tipo de riesgo para los derechos de la ciudadanía«. Y abogó por «auditorías de sesgos discriminatorios, control y monitoreo permanentemente» sobre estos sistemas.
En el mismo artículo, Sofía Beatriz Scasserra, directora del Observatorio de Impactos Sociales de la Inteligencia Artificial de la UNTREF, señaló que hay que dotar a estos sistemas de transparencia algorítmica: «que nos expliquen qué están haciendo los algoritmos, necesitamos saber cuando estamos interactuando con Inteligencia Artificial».
Millones
Como el manejo está concentrado sólo en un privado –subraya el relevamiento de la auditoría– no garantiza la continuidad y disponibilidad del chatbot ante imprevistos ocurridos con la empresa. ¿Por qué el gobierno porteño no es el encargado del manejo integral del chatbot y los datos que recaba, y deriva esa responsabilidad en una firma privada? Y no se trata de algo barato.
En mayo de 2020, Botmaker S.R.L. fue beneficiada, sin pasar por licitación pública, con compras y contrataciones directas «por exclusividad» por parte de la Ciudad, concentrando todos los servicios: consultoría para conversaciones en el chat, desarrollo, mantenimiento y soporte.
En 17 meses, la Subsecretaría Ciudad Inteligente (que depende de Innovación y Transformación Digital) desembolsó $ 114.803.938 a la empresa, que además tiene en su poder toda la información privada de millones de usuarios. Según relevó la auditoría, desde el 2020 hasta el primer trimestre del 2022, Boti recibió 76.037.101 de consultas.
«Es esencial evaluar, planificar e implementar políticas y acciones que permitan al GCBA la posibilidad de la portabilidad del chatbot hacia otros posibles proveedores –manifiesta el organismo de control–, así como reducir el nivel de dependencia total hacia el proveedor actual y el riesgo que implica la caída del servicio frente a problemas técnicos o cambios contractuales«.
La inteligencia artificial y el manejo de los datos privados cotiza. Un ejemplo lo da Fernando «Bana» Benegas. Fue el secretario de Innovación y Transformación Digital cuando se creó el sistema. De hecho se supo presentar como «papa de Boti». El año pasado, como publicó La Política Online, dejó el gobierno y pasó a integrar Bleett, que también hace chatbots. Es decir, es socio en una empresa que vende un software casi idéntico al que desarrolló durante su gestión en CABA. «
Genera millones de dólares y supuestamente no es «de ningún partido político»
La empresa Botmaker elabora y programa ChatBots para Ciudad y otros distritos. Es un sector que, según un informe de la consultora internacional Statista, generará más de mil millones de dólares para el 2025.
Actualmente, cuenta con oficinas en Buenos Aires, Miami, San Pablo, Bogotá y Ciudad de México. En 2022 la revista Forbes, entrevistó al CEO, Alejandro Zuzenberg, que tiene en sus manos el monopolio de Boti en Ciudad: “En los últimos dos años triplicamos el crecimiento y el objetivo. La compañía está facturando decenas de millones de dólares al año y esperamos llegar a los US$ 100 millones por año”, contó en relación a las ganancias globales de la firma.
Agregó que «los robots tienen un aprendizaje acumulativo. Cada vez entienden más y se nutren con las nuevas conversaciones, pero es imposible que un robot atienda mejor que una persona. Aprenden de las conversaciones y quienes entrenan a los robots son las personas que hablan. Es un aprendizaje en conjunto».
Boti se hizo popular con los chistes, aunque tiene su costado político. Al ser consultado por Mauricio Macri respondió que es un «expresidente». Consultado por Perón respondió: «No soy de ningún partido político. Sólo estoy enfocado en ayudar a los vecinos de la Ciudad».
Fuente Tiempo Argentino
