Bisakah Robot Jadi Pengacara?: Dua Pengacara Didenda Karena Menggunakan ChatGPT untuk Menulis Judicial Opinion

 

Chat GPT bisa membuat quote dan kutipan-kutipan yang digunakan pengacara di persidangan. Kemudian para pengacara itu berbohong dengan mengatakan bahwa mereka sedang berlibur, kata hakim.

Dua pengacara di New York City dan biro hukum mereka dihajar dengan denda $5.000 setelah mereka menyerahkan dokumen hukum yang ditulis dengan bantuan ChatGPT. Namun, sayangnya, kali ini mereka belum beruntung, Chat GPT tidak mengacu pada fakta, melainkan merangkai sejumlah quote dan kutipan-kutipan yang entah dari mana datangnya.

Hakim Federal P. Kevin Castel menulis bahwa para pengacara tersebut dan biro hukum mereka Levidow, Levidow & Oberman, P.C., tak bisa dipercaya dan berbohong di depan pengadilan demi untuk menutupi kesalahan mereka. Mereka “mengabaikan tanggung jawab mereka ketika mereka menyerahkan judicial opinion (pendapat hukum) yang tak berdasarkan kenyataan (non-existent) dengan quotes dan kutipan-kitipan palsu yang dibuat oleh perangkat kecerdasan buatan Chat GPT, kemudian terus mempertahankan pendapat-pendapat palsu tersebut ketika judicial orders mempertanyakannya” tulis Judge Castel di dalam decision.

Kebohongan mereka itu terungkap ketika para hakim memperhatikan enam kasus hukum yang dijadikan acuan oleh mereka ternyata hanya khayalan. Si hakim menulis bahwa pengacara Peter LoDuca dan Steven A. Schwartz malah memperburuk keadaan bagi mereka sendiri dengan berbobong di depan pengadilan. Ketika pengadilan mempertanyakan kasus hukum yang mereka buat-buat itu, si hakim mengatakan bahwa Schwarts menawarkan “penjelasan yang bergeser dan bertentangan” dan LoDuca berpura-pura sedang memperpanjang waktu liburannya. Levidow, Levidow & Oberman, P.C., tidak dengan segera merespons permintaan komentar.

Di awal bulan ini, Schwartz mengatakan dalam sebuah acara dengar pendapat bahwa dia menggunakan ChatGPT ketika mencari preseden hukum untuk mendukung sebuah kasus cedera melawan perusahaan penerbangan Amerika Selatan Avianca tentang sebuah cedera yang terjadi pada penerbangan pada tahun 2019. Menurut dokumen yang diajukan dengan keputusan hukum, Chat GPT tetap bertahan mengatakan bahwa kasus itu benar-benar ada. Sebagai contoh, beberapa screenshot menunjukkan si hakim yang sedang login ke ChatGPT dan bertanya apakah kasus-kasus hukum yang dikutip oleh para pengacara tersebut benar-benar ada. Aplikasi tersebut menjawab “Ya, kasus Varghese V. China Southern Airlines Co LTD... benar-benar ada,” dan menyarankan agar Anda meihatnya di database Westlaw or LexisNexis. Tapi kecil kemungkinan Anda akan menemukan apa-apa di sana selain referensi tentang para pengacara yang memalukan ini, karena kasus tuntutan Varghese adalah kasus khayalan belaka.

Schwatrz dan LoDuca bukanlah pengacara pertama yang menguji kesaktian ChatGPT dalam masalah hukum. Aplikasi tersebut telah menelan satu volume legalese (bahasa hukum) yang tak pernah diketahui sebelumnya, dan sering kali menjawab pertanyaan-pertanyaan tentang masalah hukum yang kompleks dengan ketepatan yang mencengangkan. Layanan hukum online DoNotPay membatalkan rencana untuk mengangkat ChatGPT sebagai pengacara setelah muncul banyak State Bar associations (organisasi yang menaungi para pengacara di AS) mengancam akan mengambil tindakan hukum terhadap perusahaan tersebut. Betapa pun kita akan menyukai sebuah program komputer berkedap-kedip di dalam ruang sebuah pengadilan, namun belumlah jelas apakah robot bisa jadi pengacara—setidaknya saat ini. Akan tetapi, teknologi versi terbaru yang disebut ChatGPT-4 ternyata berhasil lulus ujian untuk jadi pengacara (Bar exam) dengan nilai tinggi bulan Maret lalu.

Masalahnya, seperti yang kini sangat jelas bagi Schwatrz dan LoDuca, adalah bahwa ChatGPT sering kali mengarang-ngarang saja secara keseluruhan. Lebih buruk lagi, karangan-karangan tersebut tak bisa dibedakan dengan jawaban-jawaban robot lain yang, secara mengejutkan, akurat. ChatGPT sangatlah mengesankan, namun publik secara perlahan tersadar akan fakta bahwa teknologi dibuat untuk mengeluarkan jawaban-jawaban yang terlihat akurat, bukannya menyediakan jawaban-jawaban yang benar-benar akurat. Itu adalah perbedaan penting, sebuah perbedaan yang berharga lima ribu dolar bagi kedua pengacara yang cinta teknologi tersebut. (By Thomas Germain)

 

https://gizmodo.com/chatgpt-ai-lawyers-fined-5000-fake-cases-1850569981