🚨A GOVERNANÇA NÃO É UMA INTERRUPTOR

A automação sozinha não pode gerenciar Riscos

🔹Stilgoe critica a crença de que a tecnologia—como a IA—pode ser feita inerentemente segura apenas através do design, comparando-a ao governador de bola voadora de James Watt: engenhoso, mas insuficiente.

🔹Metáforas de autorregulação e contenção (comuns em círculos tecnológicos) simplificam os desafios da IA em problemas técnicos, ignorando dimensões políticas e sociais essenciais.

🔹A verdadeira segurança requer estruturas de governança, não apenas algoritmos—como a aviação depende de infraestrutura, treinamento e regulação.

🔹A dependência excessiva de "soluções técnicas" pode criar complacência e obscurecer vulnerabilidades reais.

🔹As empresas de IA frequentemente dominam a conversa sobre “segurança”, moldando narrativas estreitas que servem a seus interesses.

🔹Stilgoe pede uma supervisão robusta e democrática e alerta contra deixar os desenvolvedores direcionarem a inovação unilateralmente.

- Science.org