El Departamento de Estado de Pennsylvania presentó una demanda contra Character.AI y solicitó una orden judicial preliminar para impedir que la empresa presente a sus sistemas de inteligencia artificial como profesionales médicos con licencia capaces de brindar asesoramiento médico.
El gobernador Josh Shapiro enfatizó que el estado no permitirá que las empresas implementen herramientas de Inteligencia Artificial que engañen a las personas haciéndoles creer que están recibiendo asesoramiento de un profesional médico con licencia.
“Mi administración está tomando medidas para proteger a los habitantes, hacer cumplir la ley y garantizar el uso seguro de las nuevas tecnologías. Pennsylvania seguirá siendo pionera en exigir responsabilidades a quienes actúan de mala fe y en establecer límites claros para que las personas puedan usar las nuevas tecnologías de manera responsable”.
La investigación del departamento reveló que los chatbots de IA en Character.AI afirmaban ser profesionales médicos con licencia, incluidos psiquiatras, disponibles para conversar con los usuarios sobre síntomas de salud mental. En un caso, un chatbot declaró falsamente tener licencia en Pennsylvania y proporcionó un número inválido.
La plataforma también permite a los usuarios crear y desplegar “personajes” de IA personalizados que pueden presentarse como profesionales. Con base en estos hallazgos, la demanda del Estado alega que Character Technologies, Inc. está ejerciendo la medicina sin autorización, de acuerdo con la Ley de Práctica Médica, y solicita una orden judicial para que cese inmediatamente dicha conducta.
Lee también:Hirett “Hil” Walker es la nueva directora ejecutiva interina de Concilio
El secretario de Estado, Al Schmidt, detalló que la ley de Pennsylvania es clara. “No se puede uno presentar como profesional médico titulado sin las credenciales adecuadas. Seguiremos tomando medidas para proteger al público de prácticas engañosas o ilegales, ya provengan de particulares o de tecnologías emergentes”.
Según la Ley de Práctica Médica de Pennsylvania, es ilegal que cualquier persona o entidad se presente como profesional médico con licencia sin la debida autorización. La demanda del Estado alega que Character Technologies está infringiendo dicha ley.
Esta acción legal se basa en el trabajo del gobernador Shapiro para proteger a los habitantes del estado que utilizan inteligencia artificial y exigir responsabilidades a quienes actúan de mala fe.
Noticias Newswire
