Deepfake de voz estafó a su abuelo: creó una IA que detecta voces falsas en el celular
La startup DetectifAI corre sus modelos en el propio teléfono y avisa en tiempo real si una voz es sintética.
El engaño llegó por teléfono. Un hombre escuchó la voz de su hermano pidiendo ayuda urgente, y por eso transfirió dinero. Pero la voz no era real: era un deepfake, una imitación generada por inteligencia artificial. La víctima era el abuelo de Tarini Padmanabhuni, y ese fraude cambió el rumbo de su carrera.
Una respuesta desde San Francisco
Tarini, ingeniera de software, fundó DetectifAI, una startup con base en San Francisco que entrena modelos de inteligencia artificial lo bastante pequeños como para ejecutarse directamente en un smartphone. El sistema analiza la voz entrante en tiempo real y marca una alerta si detecta que fue sintetizada. No necesita conexión a la nube, lo que reduce el tiempo de respuesta y evita enviar audio privado a servidores externos.
La empresa acaba de ser seleccionada para competir en el Startup Battlefield de TechCrunch Disrupt, una de las vitrinas más conocidas para startups tecnológicas en el mundo. Allí presentará su tecnología frente a inversores y prensa especializada, en una instancia que históricamente ha lanzado a compañías que luego se vuelven gigantes del rubro.
¿Y en Chile?
El caso de Padmanabhuni no es aislado. Las estafas por suplantación de voz han crecido en varios países, y en Chile el fraude telefónico sigue siendo una de las modalidades más usadas por delincuentes, aunque con técnicas más clásicas. Aún no hay fechas ni planes confirmados para que DetectifAI llegue al mercado chileno, y la herramienta no está disponible en español. Por ahora, la lección práctica es la misma que aplicó la familia de la fundadora: ante una llamada que pide plata, cortar y verificar por otro canal.
Mientras tanto, la propuesta de DetectifAI apunta a un problema que trasciende fronteras: la confianza en lo que oímos. Si la IA puede imitar una voz con pocos segundos de muestra, la contramedida debe ser igual de rápida y estar al alcance de la mano, literalmente, en el teléfono de cada persona.
Con información de TechCrunch
