Rocketbots CEO e Presidente da Sociedade de IA de Hong Kong, Gerardo Salandra, falou a uma multidão ansiosa no World AI Show em Singapura sobre o tema "Porque é que os Chatbots falham".
A Rocketbots, fundada por Salandra, começou por ser uma agência de chatbots em Hong Kong, que agora se transformou numa plataforma de help desk alimentada por IA. Foi o início da Rocketbot como uma agência que deu muitos insights sobre a indústria de chatbot, principalmente as falhas dos chatbots, e de onde vêm as falhas tecnologicamente, e seu impacto na perceção das empresas sobre a IA. O primeiro dos pontos de Gerardo vem das dores dos chatbots, os seus constantes fracassos. É quase certo que cada interação bot-humano tem uma falha inevitável a dada altura, e isto continua a ser normal no desenvolvimento da IA baseada na recuperação. A IA baseada na recuperação não é propriamente IA, diz Salandra, uma vez que utiliza árvores de decisão simples para criar conversas e utiliza a velocidade de um computador para o fazer parecer inteligente. A aprendizagem na IA baseada na recuperação provém da introdução de dados e da aprendizagem automática para aperfeiçoar uma árvore de decisão imperfeita. A má formação, os dados deficientes, as conversas não planeadas e a linguagem humana coloquial são as principais razões para o fracasso de um chatbot.
As empresas de nível empresarial investiram grandes fundos na utilização de chatbots em seu benefício, especialmente no que diz respeito às interacções com os clientes para reduzir os custos com o pessoal de apoio ao cliente. No entanto, os fracassos dos chatbots deixaram um mau sabor na boca dos clientes e, consequentemente, na boca das empresas que investiram tempo e dinheiro numa solução pouco eficaz. Este tipo de perceção levou a Rocketbots a mudar para uma plataforma de comunicação com o cliente SaaS e para um novo método de IA, a IA de redes neuronais. As redes neuronais aprendem como os seres humanos, as entradas positivas reforçam as decisões e as entradas negativas impedem-nas de fazer más escolhas. Um modelo como este resolve, de facto, a maioria dos problemas que causam falhas nos chatbots baseados em Retrieval, mas também tem as suas próprias falhas.
Um exemplo citado por Salandra é o fracasso da IA Tay da Microsoft, que aprendeu com as interacções nas redes sociais numa demonstração pública. Tay aprendeu com todos os dados que lhe foram fornecidos, o que, infelizmente, resultou numa IA com opiniões e afirmações ofensivas, racistas e carregadas de palavrões. Por isso, embora este método de aprendizagem tenha provado ser eficaz, mostra que as redes neuronais precisam de ser devidamente alimentadas como uma criança pequena, para que aprendam o que é melhor. Será uma questão de tempo até que a IA possa ser totalmente automatizada para as interacções entre humanos e robôs, mas com uma educação eficaz e a definição de objectivos, há razões para acreditar que as conversas podem ser automatizadas até certo ponto.
