California ha revelado el uso de seis sistemas automatizados de toma de decisiones de alto riesgo después de inicialmente reportar ninguno. Los sistemas incluyen predicción de reincidencia, detección de fraude y supervisión de exámenes.
El informe sigue una ley estatal que exige transparencia anual. Los hallazgos destacan debates continuos sobre seguridad y supervisión de la IA.
- El estado inicialmente negó usar sistemas de IA de alto riesgo, pero un nuevo informe revela seis en uso. - Los sistemas incluyen COMPAS para puntajes de reincidencia y una herramienta de detección de fraude que pausó 600,000 beneficios.
- El informe excluye proyectos piloto de IA generativa como Poppy y contratos de ChatGPT. - Tribunales en los condados de Los Ángeles y Riverside están probando IA para tareas administrativas.
La divulgación se produce en medio de la preocupación pública por la seguridad de la IA y un impulso por más transparencia en el uso gubernamental de la tecnología.