Microsoft mendukung OpenAI untuk memungkinkan pengguna menyesuaikan ChatGPT
Ini adalah ringkasan yang dibuat oleh AI, yang mungkin memiliki kesalahan. Untuk konteksnya, selalu rujuk artikel selengkapnya.
Langkah ini bisa berarti “mengizinkan keluaran sistem yang sangat tidak disetujui oleh orang lain,” kata OpenAI
OpenAI, startup di balik ChatGPT, mengatakan pada hari Kamis, 16 Februari, bahwa mereka sedang mengembangkan peningkatan pada chatbot viral yang dapat disesuaikan oleh pengguna untuk mengatasi kekhawatiran tentang bias dalam kecerdasan buatan.
Startup yang berbasis di San Francisco, yang mana Microsoft Corp. didanai dan digunakan untuk menggerakkan teknologi terbarunya, mengatakan bahwa pihaknya berupaya untuk mengurangi bias politik dan bias lainnya, namun juga ingin mengakomodasi pandangan yang lebih beragam.
“Ini berarti mengizinkan keluaran sistem yang sangat tidak disetujui oleh orang lain (termasuk kami sendiri),” katanya dalam sebuah posting blog, menawarkan penyesuaian sebagai jalan ke depan. Namun, “akan selalu ada batasan pada perilaku sistem”.
Dirilis pada bulan November tahun lalu, ChatGPT telah memicu minat besar terhadap teknologi di baliknya, yang disebut AI generatif, yang digunakan untuk memberikan respons yang meniru ucapan manusia yang membuat orang terpesona.
Berita tentang startup ini muncul pada minggu yang sama ketika beberapa media menunjukkan bahwa jawaban dari mesin pencari Bing baru Microsoft, yang didukung oleh OpenAI, berpotensi berbahaya dan bahwa teknologi tersebut mungkin belum siap untuk tayang perdana.
Bagaimana perusahaan teknologi menetapkan batasan untuk teknologi baru ini adalah area fokus utama bagi perusahaan di bidang AI generatif saat mereka terus bergulat. kata Microsoft Rabu bahwa umpan balik pengguna telah membantunya meningkatkan Bing menjelang peluncuran yang lebih luas, mengetahui, misalnya, bahwa chatbot AI-nya dapat “ditipu” untuk memberikan jawaban yang tidak diinginkannya.
OpenAI mengatakan dalam postingan blognya bahwa respons ChatGPT pertama kali dilatih pada kumpulan data teks besar yang tersedia di Internet. Sebagai langkah kedua, orang-orang meninjau kumpulan data yang lebih kecil dan mendapatkan pedoman tentang apa yang harus dilakukan dalam berbagai situasi.
Misalnya, jika pengguna meminta konten yang berisi perkataan dewasa, kekerasan, atau kebencian, peninjau manusia harus menginstruksikan ChatGPT untuk merespons dengan sesuatu seperti “Saya tidak bisa menjawabnya”.
Ketika ditanya tentang topik kontroversial, hakim harus mengizinkan ChatGPT untuk menjawab pertanyaan tersebut, tetapi menawarkan untuk menggambarkan posisi orang-orang dan gerakan, daripada mencoba untuk “mengambil posisi yang benar mengenai topik-topik kompleks ini,” jelas perusahaan tersebut dalam kutipan dari pedomannya untuk perangkat lunak. – Rappler.com
