Os organismos federais de segurança abriram uma investigação à morte de um condutor de um Tesla Model S cujo carro estava a operar com o Autopilot ativado. Este é o primeiro acidente mortal conhecido envolvendo o sistema de automação parcial da empresa e um teste decisivo sobre a forma como os condutores, os fabricantes e o governo compreendem a tecnologia que pode auxiliar na condução, mas não substituir a atenção humana.
A colisão de 7 de maio em Williston, Florida, matou Joshua Brown, de 40 anos, quando um camião virou à esquerda cruzando a trajetória do Tesla. De acordo com o comunicado da Tesla divulgado na quinta-feira, nem o condutor nem o Autopilot acionaram os travões porque o sistema não conseguiu distinguir a lateral branca do camião do céu iluminado. O carro passou por baixo do camião.
A Administração Nacional de Segurança Rodoviária (NHTSA) iniciou uma avaliação preliminar que abrange cerca de 25.000 veículos Modelo S. A agência afirmou que a investigação irá examinar o design e o desempenho dos sistemas de condução automatizada em utilização na altura; a abertura de uma investigação não significa que os reguladores tenham encontrado um defeito.
Um sistema concebido para auxiliar, e não substituir, o condutor
O Autopilot combina câmaras, radar, sensores ultrassónicos e mapeamento digital para manter o veículo na faixa de rodagem, controlar a velocidade e mudar de faixa de acordo com as instruções do condutor. A Tesla introduziu estas funcionalidades através de uma atualização de software em outubro passado, um modelo de implementação invulgar que conferiu novas funcionalidades aos automóveis já existentes sem a necessidade de os levar a uma oficina.
O sistema não é autónomo. A Tesla exige que os condutores mantenham as mãos no volante e se mantenham prontos para assumir o controlo. Os avisos visuais e sonoros intensificam-se caso o carro não detete movimento no volante. O manual do proprietário do Model S descreve o Autosteer como uma funcionalidade beta destinada às autoestradas e alerta contra a utilização em ruas com cruzamentos ou tráfego imprevisível.
Esta distinção é tecnicamente clara, mas comportamentalmente instável. Um sistema capaz de controlar um veículo durante longos períodos pode levar os condutores a considerar a supervisão como opcional, principalmente quando funciona de forma fiável durante a maior parte do tempo. A automatização pode reduzir a carga de trabalho, mas também dificultar a rara necessidade de intervenção imediata, uma vez que o ser humano é afastado do controlo.
O acidente expõe os limites da percepção da máquina
A colisão na Florida apresenta um caso visual complexo: um grande reboque branco a atravessar a faixa contra um fundo claro. A Tesla afirmou que a altura elevada do reboque e a sua posição transversal na via contribuíram para a gravidade do acidente. Os sistemas de radar e câmaras precisam de classificar objetos, prever movimentos e decidir se é necessário travar, sem reagir de forma perigosa a pontes, placas de sinalização e outras estruturas suspensas.
A Reuters noticiou que informações preliminares indicam que o camião estava a fazer uma conversão num cruzamento numa estrada seca e sem obstáculos. Os investigadores necessitarão de registos do veículo, dados dos sensores e provas físicas para determinar a velocidade, as ações do condutor, os alertas e a resposta exata de cada subsistema.
O caso também destaca porque é que o termo "Autopilot" é importante. A Tesla utiliza-o por analogia à aviação, onde os sistemas automatizados ainda requerem pilotos treinados. Os condutores comuns podem perceber uma promessa mais forte. A empresa afirma repetidamente que os condutores devem manter-se responsáveis, mas os nomes dos produtos, as demonstrações e a experiência de condução sem as mãos no volante podem moldar as expectativas tão fortemente como os avisos.
A regulamentação está a ficar para trás em relação ao software
da NHTSA para a automatização de veículos distingue as capacidades de assistência ao condutor dos sistemas capazes de executar a tarefa completa de condução. O Autopilot pertence à primeira categoria: controla a direção e a velocidade em condições limitadas, enquanto o condutor monitoriza o ambiente.
A regulamentação automóvel tradicional está organizada em torno de componentes físicos e defeitos. O comportamento controlado por software muda mais rapidamente, pode ser atualizado remotamente e depende da interação de sensores, código, condições da estrada e utilização humana. A investigação deve, portanto, questionar não só se uma peça falhou, mas se as limitações e os avisos do sistema foram concebidos de forma adequada para um comportamento previsível do condutor.
A Tesla afirma que os seus clientes percorreram mais de 130 milhões de milhas com o Autopilot ativado e compara esta única fatalidade com uma morte no trânsito nos EUA a cada 94 milhões de milhas, aproximadamente. Esta comparação é preliminar e não permite estabelecer um nível de segurança relativo, uma vez que os quilómetros percorridos com o Autopilot estão concentrados em estradas e condições diferentes da média nacional, e porque os dados de utilização não foram analisados de forma independente.
Um relato técnico contemporâneo da Wired observa que a rápida implementação da Tesla difere da implantação mais conservadora planeada pelos fabricantes de automóveis tradicionais. Esta velocidade permite obter dados e melhorias do mundo real mais rapidamente, mas também transfere mais do ambiente de testes para os clientes.
A transparência determinará a confiança na automatização parcial
A morte não prova que a condução automatizada seja menos segura do que a condução humana. O erro humano contribui para a grande maioria dos acidentes, e sistemas de assistência bem concebidos poderiam prevenir muitos deles. A travagem automática de emergência, o assistente de faixa de rodagem e os alertas de colisão já oferecem benefícios sem necessidade de autonomia total.
Mas o progresso depende de descrições precisas das capacidades e limitações. A taxonomia de automação da Sociedade de Engenheiros Automóveis (SAE) separa os sistemas que auxiliam um ou mais controlos daqueles que monitorizam o ambiente de condução. O Autopilot exige ainda que o condutor realize essa monitorização. Uma linguagem pública que confunda estes níveis pode incentivar o uso indevido, mesmo que os avisos legais sejam precisos.
A abordagem da Tesla também levanta questões sobre o acesso aos dados. A empresa pode obter registos detalhados dos veículos e atualizar o software remotamente, o que lhe confere uma visão invulgar sobre os incidentes. Os organismos reguladores precisam de acesso suficiente para verificar as alegações da empresa e identificar padrões em acidentes e quase acidentes. Os condutores precisam de ser claramente informados sobre quais as informações registadas e como são utilizadas.
O programa de segurança automática de veículos da NHTSA tem incentivado a inovação, ao mesmo tempo que desenvolve políticas para sistemas cada vez mais sofisticados. A investigação na Florida vai testar se as ferramentas existentes são adequadas quando o software muda mais rapidamente do que as normas formais.
A investigação imediata vai focar-se num carro, um camião e um cruzamento. A sua importância mais vasta reside nos milhões de futuras transições entre humanos e máquinas. A automatização parcial ocupa o ponto intermédio mais difícil: suficientemente capaz para inspirar confiança, mas suficientemente limitada para exigir vigilância. A segurança desta transição dependerá não só da melhoria dos sensores, mas também de a tecnologia ser concebida tendo em conta a forma como as pessoas se comportam realmente quando uma máquina parece estar a conduzir por elas.
