Berita lama tapi hoax-nya masih dibawa sampe sekarang.
Namun, para peneliti di Facebook terpaksa mematikan proyek AI mereka setelah menemukan bahwa program AI buatan mereka malah menciptakan bahasa baru yang hanya bisa dimengerti oleh mereka sendiri.
Salah. Mereka tidak mematikan dengan paksa karena hal tersebut, akan tetapi, karena tidak sesuai tujuan awal. Tujuan awalnya yaitu mengembangkan chatbot yang dapat digunakan dengan manusia. Secara khusus, untuk tujuan negosiasi.
Walaupun niat utama bisa digunakan dengan/oleh manusia atau bot, dan memang tujuan untuk bernegosiasi telah tercapai. Pengembangan selanjutnya yang mereka kejar adalah dengan menggunakan bahasa yang baik dan benar.
Sampai akhirnya mereka menggunakan dialek khusus yang tidak dikenali.
Ngaco. Sejauh ini tidak ada bukti atas dialek yang tidak dikenali.
Hal ini memaksa para pembuatnya untuk mematikan kedua program AI ini, dengan dalih pencegahan.
Sesuai yang udah dibilang, alasannya bukan karena paksaan dan pencegahan.
During reinforcement learning, the agent attempts to improve its parameters from conversations with another agent. While the other agent could be a human, FAIR used a fixed supervised model that was trained to imitate humans. The second model is fixed, because the researchers found that updating the parameters of both agents led to divergence from human language as the agents developed their own language for negotiating.
"Simply put, agents in environments attempting to solve a task will often find unintuitive ways to maximize a reward," Batra wrote in the July 2017 Facebook post. "Analyzing the reward function and changing parameters of an experiment is NOT the same as 'unplugging' or 'shutting down AI.' If that were the case, every AI researcher has been 'shutting down AI' every time they kill a job on a machine."
https://engineering.fb.com/2017/06/14/ml-applications/deal-or-no-deal-training-ai-bots-to-negotiate/https://www.fastcompany.com/90132632/ai-is-inventing-its-own-perfect-languages-should-we-let-ithttps://gizmodo.com/no-facebook-did-not-panic-and-shut-down-an-ai-program-1797414922https://www.usatoday.com/story/news/factcheck/2021/07/28/fact-check-facebook-chatbots-werent-shut-down-creating-language/8040006002/