O problema do cotidiano
A promessa do carro autônomo costuma tropeçar no trivial. Um sistema autônomo pode navegar por uma rodovia sem dificuldade, mas frequentemente trava diante da complexidade de uma zona de obras, um semáforo com defeito ou os movimentos imprevisíveis de um pedestre. Quando esses sistemas "congelam", a indústria recorre a uma camada oculta de intervenção humana: operadores remotos que assumem o controle do veículo à distância. Essa prática, quase sempre apresentada como ponte temporária rumo à autonomia total, está se tornando cada vez mais um recurso permanente — e frágil — do setor.
Lições ignoradas dos drones militares
O modelo de supervisão remota não é uma invenção do Vale do Silício. As Forças Armadas dos Estados Unidos lidam com as complexidades de veículos aéreos não tripulados (UAVs) desde os anos 1980, e descobriram cedo que a distância entre o piloto e a aeronave introduz um conjunto perigoso de variáveis. Naqueles anos iniciais, os programas de UAV foram marcados por acidentes causados não necessariamente por falhas mecânicas, mas por interfaces de controle mal projetadas, latência na comunicação e pela desconexão psicológica de "pilotar" sentado a uma mesa.
Custo acima de segurança
Apesar desse vasto acervo de conhecimento, as empresas de veículos autônomos de hoje parecem estar repetindo esses erros históricos. Relatórios recentes sobre a terceirização de operações remotas para centros no exterior sugerem que o corte de custos está sendo priorizado em detrimento do design rigoroso de interfaces e do treinamento especializado que a segurança em situações críticas exige. Ao ignorar as lições duramente aprendidas pela aviação militar — especificamente sobre como seres humanos processam informações sob latência e estresse —, a indústria corre o risco de transformar sua rede de segurança humana em seu maior ponto de vulnerabilidade.
Com reportagem de IEEE Spectrum Robotics.
Source · IEEE Spectrum Robotics
