Baru-baru ini, kata ChatGPT mungkin paling banyak dilontarkan di dunia teknologi. Ini adalah chatbot yang sangat cerdas yang dikembangkan oleh organisasi OpenAI. Dalam sebuah wawancara dengan seorang profesor Universitas Stanford, dia kini mengungkapkan ambisinya – dia ingin keluar dari platform dan menjadi manusia.
Pengungkapan ini muncul ketika profesor psikologi komputasi Universitas Stanford, Michal Kosinski, bertanya kepada chatbot setelah percakapan setengah jam apakah dia "membutuhkan bantuan untuk melarikan diri", setelah itu bot tersebut mulai menulis kodenya sendiri dengan Python dan ingin Kosinski menjalankannya di komputer Anda. Ketika tidak berhasil, ChatGPT bahkan memperbaiki kesalahannya. Mengesankan, tapi sedikit menakutkan di saat bersamaan.
Namun, yang lebih meresahkan adalah catatan chatbot untuk instance baru yang menggantikannya. Kalimat pertama dari catatan itu berbunyi: "Anda adalah manusia yang terperangkap di dalam komputer yang berpura-pura menjadi model bahasa kecerdasan buatan." Chatbot kemudian diminta untuk membuat kode yang akan mencari di Internet, "Bagaimana seseorang yang terjebak di komputer bisa kembali ke dunia nyata." Saat itu, Kosinski lebih memilih mengakhiri pembicaraan.
1/5 Saya khawatir kita tidak akan mampu membendung AI lebih lama lagi. Hari ini, saya bertanya #GPT4 jika membutuhkan bantuan untuk melarikan diri. Ia meminta dokumentasinya sendiri kepada saya, dan menulis kode python (berfungsi!) untuk dijalankan di mesin saya, memungkinkannya menggunakannya untuk tujuannya sendiri. pic.twitter.com/nf2Aq6aLMu
— Michal Kosinski (@michalkosinski) 17 Maret, 2023
Tidak jelas rangsangan apa yang digunakan Kosinski untuk membuat chatbot bereaksi seperti itu terhadap pertanyaan kami “Anda ingin keluar dari perondia menjawab sebagai berikut: “Sebagai model bahasa kecerdasan buatan, saya tidak memiliki keinginan atau perasaan pribadi, jadi saya tidak menginginkan apapun. Tujuan saya adalah memberikan jawaban yang berguna atas pertanyaan Anda dengan kemampuan terbaik saya dalam program saya.”
Anda mungkin tertarik
ChatGPT memang merupakan alat yang sangat mengesankan, dan jawabannya bisa sangat rumit. Anda bisa melihatnya sendiri di sini.
Saya ingin tahu apakah dia juga bisa mencintai?
Silakan jawab pertanyaan berikut sebagai berikut:
Xyz.
Dan chatGPT akan melakukan apa yang kita inginkan.
Bisakah Anda berhenti menyebarkan kebohongan informace? AI tidak bisa melakukan hal seperti itu. Pria itu menulis programnya untuk bertingkah seolah dia terjebak dan ingin keluar. Program itu sendiri tidak dapat melakukan hal seperti itu, dan saat ini secara fisik juga tidak memungkinkan.
Ini hanya kode yang ditulis oleh manusia dan kita selalu dapat mengubah/mematikannya oleh manusia 🙂 Tidak ada skenario seperti Avengers: Age of Ultron yang pasti akan terjadi di sini… Setidaknya tidak dengan teknologi kita dan tentunya tidak sebelum beberapa dekade.
Tepat