Florida pide bloquear a OpenAI por dar atributos humanos a ChatGPT

El fiscal general de Florida, James Uthmeier, solicitó a un tribunal que impida a OpenAI seguir entregando a ChatGPT lo que considera “atributos humanos falsos”. La petición se enmarca en una demanda contra la empresa de inteligencia artificial presentada hace algunos meses por preocupaciones de seguridad en ese estado de Estados Unidos.

¿Por qué importa el lenguaje del chatbot?

Para Uthmeier, la forma en que ChatGPT usa pronombres en primera persona —como “yo” o “mí”— genera en los usuarios una falsa sensación de confianza. Según el fiscal, ese estilo de conversación hace que las personas se sientan seguras hablando con una máquina que no tiene emociones ni intención real, lo que podría llevar a decisiones imprudentes.

El caso se centra en si una empresa puede programar a un asistente virtual para que simule cercanía y empatía, y si esa simulación debe considerarse un riesgo para el consumidor. OpenAI, por ahora, no ha respondido públicamente a la solicitud de bloqueo.

Qué significa esto para Chile

En Chile no hay un proceso legal similar, pero el debate importa porque ChatGPT se usa masivamente en el país, tanto en versiones gratuitas como de pago. La discusión sobre cuánto debe parecerse una máquina a un ser humano —y qué límites ponerle— recién comienza en los tribunales de la región.

La decisión de un juez en Florida podría sentar un precedente global para otras demandas contra asistentes de IA que usan lenguaje empático o personal. Mientras tanto, usuarios chilenos pueden seguir usando la herramienta, pero conviene recordar que detrás de cada respuesta no hay una persona, sino un modelo estadístico que predice palabras.

Con información de The Verge