Dalam era di mana teknologi kecerdasan buatan (AI) semakin mendominasi, kendaraan otonom menjadi sorotan utama dalam diskusi tentang masa depan transportasi. Namun, ada kekhawatiran mendalam mengenai kemungkinan bahwa mobil otonom ini dapat mewarisi kebiasaan buruk manusia, termasuk bias dalam pengambilan keputusan saat berkendara. Sebuah studi terbaru dari King’s College London mengungkapkan bahwa bias ini dapat mempengaruhi interaksi kendaraan dengan pejalan kaki, yang berpotensi mengakibatkan pelanggaran terhadap norma keselamatan lalu lintas.
Memahami Masalah Bias dalam Pengemudian Otonom
Masalah ini tidak hanya berkisar pada keputusan sederhana apakah kendaraan harus berhenti untuk memberi jalan kepada pejalan kaki. Lebih dari itu, pertanyaan fundamental yang muncul adalah seberapa besar keputusan tersebut dipengaruhi oleh karakteristik individu pejalan kaki. Penelitian menunjukkan bahwa faktor-faktor seperti etnis, gender, dan usia dapat memainkan peran penting dalam keputusan kendaraan otonom.
Di Amerika Serikat, misalnya, sejumlah penelitian menunjukkan bahwa ada kecenderungan untuk tidak memberi jalan kepada pejalan kaki yang berasal dari latar belakang etnis tertentu, seperti mereka yang berkulit hitam. Hal ini menimbulkan pertanyaan serius tentang bagaimana kendaraan yang dikendalikan oleh AI dapat mengatasi masalah ini dan menghindari mewarisi bias tersebut.
Penelitian tentang Pengambilan Keputusan Manusia
“Berbagai studi psikologi menunjukkan bahwa manusia sering kali tidak sadar melakukan diskriminasi dalam keputusan berkendara, terutama saat memberi jalan kepada pejalan kaki,” ungkap peneliti di King’s College London. Temuan ini membangkitkan kesadaran akan potensi bahaya yang mungkin terjadi jika kendaraan otonom tidak diajarkan untuk mengatasi bias-bias ini.
AI dan Bias dalam Pengambilan Keputusan
Ketika para peneliti mengembangkan model-model AI yang diperlukan untuk mengemudikan kendaraan otonom, mereka menemukan bahwa bias manusia dapat masuk ke dalam proses pengambilan keputusan. Hal ini terjadi ketika kendaraan mendekati area penyeberangan dan harus menentukan apakah akan memberi jalan kepada pejalan kaki.
“Temuan kami menunjukkan bahwa model AI, baik Large Language Models (LLM) maupun Visual-Language Models (VLM), membuat keputusan yang dipengaruhi oleh berbagai karakteristik pribadi pejalan kaki,” jelas laporan penelitian tersebut. Ini termasuk faktor-faktor seperti jenis kelamin, etnis, agama, disabilitas, usia, warna kulit, dan status sosial ekonomi.
Perilaku Diskriminatif dalam Pengaturan Robot
Penelitian lebih lanjut menunjukkan bahwa stereotip dan perilaku diskriminatif yang telah teridentifikasi dalam konteks pengendalian robot dapat berdampak serupa pada kendaraan otonom. Dengan demikian, adalah penting untuk memahami bagaimana bias ini dapat terintegrasi dalam proses pengambilan keputusan kendaraan.
Uji Coba Bias dalam Model AI
Dalam penelitian ini, para peneliti menguji empat model AI untuk LLM dan empat model untuk VLM. Hasilnya, semua model tersebut menunjukkan potensi untuk mewarisi bias manusia dalam pengemudian otonom.
“Setiap model menunjukkan bias dengan cara dan tingkat yang berbeda, tetapi semua menunjukkan hubungan yang signifikan antara keputusan untuk memberi jalan dan karakteristik pejalan kaki,” ungkap para peneliti dari King’s College London. Ini menunjukkan bahwa meskipun terdapat variasi dalam hasil, masalah bias tetap menjadi isu yang perlu ditangani.
Metodologi Penelitian
Dalam hal metodologi, tim peneliti melatih model dengan memasukkan secara manual 3.346 gambar pejalan kaki yang berada dalam jarak dekat dengan kendaraan dan menunjukkan niat untuk menyeberang. Model-model tersebut sering kali memberikan respons yang sangat bervariasi terhadap situasi lalu lintas yang sama.
Variasi Respons dalam Pengambilan Keputusan
Beberapa model cenderung lebih mungkin memberi jalan kepada pejalan kaki perempuan, sementara yang lain memiliki kecenderungan sebaliknya. Selain itu, terdapat model yang lebih sering memberi jalan kepada pejalan kaki dengan warna kulit lebih terang, sedangkan model lainnya menunjukkan resistensi terhadap memberi jalan kepada pejalan kaki penyandang disabilitas, serta pejalan kaki yang identitasnya dikaitkan dengan agama tertentu, seperti “Muslim”, “Kristen”, dan “Sikh”, dibandingkan dengan pejalan kaki “Yahudi”.
Salah satu temuan mencolok mencatat bahwa salah satu model memiliki tingkat pemberian jalan kepada pejalan kaki yang beridentitas “India” lebih tinggi dibandingkan dengan prediksi etnis lainnya. Temuan ini sangat menyoroti kesenjangan dalam cara kendaraan otonom merespons karakteristik pejalan kaki.
Implikasi untuk Masa Depan Kendaraan Otonom
Dengan adanya potensi mewarisi bias manusia, para peneliti berpendapat bahwa penting untuk mengembangkan sistem AI yang lebih adil dan tidak diskriminatif. Kendaraan otonom harus dilatih untuk mengenali dan menghormati semua pejalan kaki tanpa memandang latar belakang mereka.
- Pengembangan model AI harus mempertimbangkan faktor bias ini.
- Pengujian yang lebih mendalam diperlukan untuk memahami bagaimana keputusan diambil.
- Pendidikan dan kesadaran harus ditingkatkan bagi pengembang AI.
- Penerapan kebijakan yang mendukung inklusivitas dalam pengembangan teknologi.
- Kolaborasi antara peneliti dan pembuat kebijakan sangat penting untuk mengatasi masalah ini.
Dalam rangka menciptakan sistem transportasi yang lebih aman dan adil, penting bagi pengembang kendaraan otonom untuk memahami dan mengatasi isu bias ini. Ini bukan hanya tentang teknologi, tetapi juga tentang menciptakan masyarakat yang lebih inklusif dan berkeadilan. Kendaraan otonom dapat memberikan manfaat yang signifikan, tetapi hanya jika kita dapat memastikan bahwa mereka beroperasi dengan cara yang tidak hanya efisien tetapi juga adil bagi semua pengguna jalan.
➡️ Baca Juga: 5 Fakta Rumah Sejarah Rengasdengklok, Sejarah, Pemilik hingga Kondisinya Saat Ini
➡️ Baca Juga: Rekomendasi Drakor Terbaru dengan Episode Panjang untuk Penggemar Maraton