Rocketbots CEO dan Ketua AI Society of Hong Kong, Gerardo Salandra, berbicara di hadapan para hadirin yang antusias di World AI Show di Singapura dengan topik Why Chatbots Fail.
Rocketbots, yang didirikan oleh Salandra, dimulai sebagai agensi chatbot di Hong Kong yang kini telah berubah menjadi platform meja bantuan bertenaga AI. Awal mula Rocketbot sebagai agensi telah memberikan banyak wawasan ke dalam industri chatbot, terutama kesalahan chatbot, dan di mana kesalahan itu berasal dari sisi teknologi, serta dampaknya terhadap persepsi bisnis tentang AI. Poin pertama dari Gerardo berasal dari kelemahan chatbot, yaitu kegagalannya yang terus menerus. Hampir dapat dipastikan setiap interaksi bot-manusia memiliki kegagalan yang tak terelakkan di beberapa titik, dan ini masih menjadi hal yang wajar dalam pengembangan AI pada AI berbasis Retrieval. Retrieval based AI bukanlah AI, kata Salandra, karena menggunakan pohon keputusan sederhana untuk membuat percakapan dan menggunakan kecepatan komputer untuk membuatnya terlihat pintar. Pembelajaran dalam Retrieval based AI berasal dari input data dan pembelajaran mesin untuk menyempurnakan pohon keputusan yang tidak sempurna. Pelatihan yang buruk, data yang buruk, jenis percakapan yang tidak terencana, dan bahasa manusia sehari-hari adalah alasan utama di balik kegagalan chatbot.
Bisnis tingkat perusahaan telah menginvestasikan dana besar untuk memanfaatkan chatbot demi keuntungan mereka, terutama dalam hal interaksi pelanggan untuk memangkas biaya staf dukungan pelanggan. Namun kegagalan chatbots telah meninggalkan rasa tidak enak di mulut pelanggan, dan dengan demikian juga di mulut perusahaan yang menginvestasikan waktu dan uang untuk solusi yang hampir tidak efektif. Wawasan semacam ini telah membuat Rocketbots beralih ke model platform komunikasi pelanggan SaaS , dan metode baru AI, Neural Networked AI. Neural Networks belajar seperti manusia, masukan positif memperkuat keputusan, dan masukan negatif mencegahnya mempelajari pilihan yang buruk. Model seperti ini memang menyelesaikan sebagian besar masalah yang menyebabkan kegagalan chatbot untuk chatbot berbasis Retrieval, tetapi model ini juga memiliki kekurangan.
Contoh yang dikemukakan Salandra adalah kegagalan AI milik Microsoft, Tay, yang belajar dari interaksi media sosial dalam sebuah demonstrasi publik. Tay telah belajar dari semua data yang diberikan kepadanya, yang sayangnya berakhir dengan AI yang memiliki opini dan pernyataan yang menyinggung, rasis, dan sarat dengan kata-kata kotor. Jadi, meskipun metode pembelajaran ini terbukti efektif, hal ini menunjukkan bahwa Neural Networks perlu diasuh dengan baik seperti anak kecil, sehingga dapat mempelajari apa yang terbaik. Ini akan menjadi masalah waktu sebelum AI dapat sepenuhnya diotomatisasi untuk interaksi manusia-ke-bot, tetapi dengan pengasuhan yang efektif dan penetapan tujuan, ada alasan untuk percaya bahwa percakapan dapat diotomatisasi sampai batas tertentu.
