A integração de veículos automatizados promete vários benefícios para a mobilidade urbana, incluindo maior segurança, redução de congestionamento de tráfego e acessibilidade aprimorada. Veículos automatizados também permitem que motoristas se envolvam em tarefas não relacionadas à direção (NDRTs), como relaxar, trabalhar ou assistir multimídia no caminho.
No entanto, a adoção generalizada é dificultada pela confiança limitada dos passageiros. Para lidar com isso, explicações para decisões de veículos automatizados podem promover a confiança ao fornecer controle e reduzir experiências negativas. Essas explicações devem ser informativas, compreensíveis e concisas para serem eficazes.
Abordagens existentes de Inteligência Artificial Explicável (XAI)
As abordagens existentes de inteligência artificial explicável (XAI) atendem principalmente aos desenvolvedores, focando em cenários de alto risco ou explicações abrangentes, potencialmente inadequadas para passageiros. Para preencher essa lacuna, os modelos XAI centrados no passageiro precisam entender o tipo e o momento das informações necessárias em cenários de direção do mundo real.
Pesquisa Liderada pelo Professor SeungJun Kim
Abordando essa lacuna, uma equipe de pesquisa, liderada pelo Professor SeungJun Kim do Instituto de Ciência e Tecnologia de Gwangju (GIST), Coreia do Sul, investigou as explicações para as demandas de passageiros de veículos automatizados em condições reais de estrada. Eles então introduziram um conjunto de dados multimodais, chamado TimelyTale, que inclui dados de sensores específicos do passageiro para explicações oportunas e relevantes ao contexto.
"Nossa pesquisa muda o foco do XAI na direção autônoma dos desenvolvedores para os passageiros. Desenvolvemos uma abordagem para reunir as demandas reais dos passageiros por explicações no veículo e métodos para gerar explicações oportunas e relevantes para a situação para os passageiros", explica o Prof. Kim.
Descobertas da Pesquisa
Suas descobertas estão disponíveis em dois estudos publicados no Proceedings of the ACM on Interactive, Mobile, Wearable and Ubiquitous Technologies em 27 de setembro de 2023 e 9 de setembro de 2024. Os autores receberam o "Distinguished Paper Award" na UbiComp 2024 por seu estudo pioneiro intitulado "O que e quando explicar?: Avaliação on-road de explicações em veículos altamente automatizados".
Os pesquisadores primeiro estudaram o impacto de vários tipos de explicação visual, incluindo percepção, atenção e uma combinação de ambos, e seu tempo na experiência do passageiro em condições reais de direção, utilizando realidade aumentada. Eles descobriram que o estado de percepção do veículo sozinho melhorou a confiança, a segurança percebida e a consciência situacional sem sobrecarregar os passageiros.
Eles também descobriram que a probabilidade de risco de tráfego era mais eficaz para decidir quando dar explicações, especialmente quando os passageiros se sentiam sobrecarregados com informações.
O Conjunto de Dados TimelyTale
Com base nessas descobertas, os pesquisadores desenvolveram o conjunto de dados TimelyTale. Essa abordagem inclui dados exteroceptivos (descritivos do ambiente externo, como visões, sons etc.), proprioceptivos (descritivos das posições e movimentos do corpo) e interoceptivos (descritivos das sensações do corpo, como dor etc.), coletados de passageiros usando uma variedade de sensores em cenários de direção naturalistas, como recursos-chave para prever suas demandas de explicação.
Notavelmente, este trabalho também incorpora o conceito de interruptibilidade, que se refere à mudança de foco dos passageiros de NDRTs para informações relacionadas à direção. O método identificou efetivamente tanto o momento quanto a frequência das demandas do passageiro por explicações, bem como explicações específicas que os passageiros desejam durante situações de direção.
Modelo de Machine Learning para Previsão de Explicações
Usando essa abordagem, os pesquisadores desenvolveram um modelo de machine learning que prevê o melhor momento para fornecer uma explicação. Além disso, como prova de conceito, os pesquisadores conduziram modelagem em toda a cidade para gerar explicações textuais com base em diferentes locais de direção.
"Nossa pesquisa estabelece as bases para uma maior aceitação e adoção de veículos autônomos, potencialmente remodelando o transporte urbano e a mobilidade pessoal nos próximos anos", diz o Prof. Kim.
