Klaim 'Mengemudi Sendiri' dari Waymo Mendapatkan Pemeriksaan Realitas di Capitol Hill

Singkatnya

• Waymo memberi tahu senator bahwa operator manusia di luar negeri memberikan panduan kepada kendaraannya dalam situasi sulit tetapi tidak mengendalikan pengemudian.
• Senator Ed Markey mengatakan keterlibatan di luar negeri menimbulkan kekhawatiran tentang keselamatan, keamanan siber, dan akuntabilitas.
• Waymo membela praktik tersebut sebagai bantuan kontekstual terbatas saat Kongres mempertimbangkan aturan AV federal baru.

Klaim Waymo bahwa kendaraannya beroperasi tanpa pengemudi manusia menarik perhatian tajam pada hari Rabu setelah seorang eksekutif senior mengakui bahwa operator di luar negeri membantu membimbing mobil otonom perusahaan melalui situasi sulit di jalanan AS, menimbulkan pertanyaan baru tentang apa arti “mengemudi sendiri” sebenarnya. Dalam kesaksiannya di depan Komite Perdagangan, Ilmu Pengetahuan, dan Transportasi Senat AS, Kepala Keamanan Waymo Mauricio Peña mengonfirmasi bahwa perusahaan bergantung pada operator manusia jarak jauh untuk membantu kendaraan saat mereka menghadapi skenario yang tidak dapat diselesaikan secara mandiri. “Mereka memberikan panduan, mereka tidak mengemudi kendaraan dari jarak jauh,” kata Peña kepada para legislator. “Waymo meminta panduan dalam situasi tertentu dan mendapatkan masukan, tetapi kendaraan Waymo selalu bertanggung jawab atas tugas mengemudi yang dinamis.” 

Jawaban tersebut tidak memuaskan Senator Edward Markey (D., Mass.), yang bertanya apakah semua operator jarak jauh berbasis di AS. Peña mengatakan mereka tidak, kemudian mengidentifikasi lokasi di luar negeri sebagai Filipina. Markey memperingatkan bahwa keterlibatan manusia di luar negeri merusak klaim publik tentang otonomi penuh sambil memperkenalkan risiko keselamatan dan keamanan siber. “Memiliki orang di luar negeri yang mempengaruhi kendaraan Amerika adalah masalah keselamatan,” kata Markey. “Informasi yang diterima operator bisa usang. Ini bisa memperkenalkan kerentanan keamanan siber yang besar.” Para legislator juga mempertanyakan apakah operator jarak jauh di luar negeri tunduk pada standar lisensi atau regulasi AS, dan mengkritik Waymo karena mengalihdayakan salah satu dari sedikit pekerjaan manusia yang tersisa dalam sistem yang semakin otomatis.

Kerangka kerja nasional Sidang Senat ini muncul saat Kongres mempertimbangkan apakah akan memasukkan kerangka kerja kendaraan otonom nasional dalam RUU reautorisasi transportasi permukaan berikutnya, dan saat Waymo menghadapi pengawasan tambahan setelah upayanya memperluas bisnis ke pasar baru. Pada hari Senin, perusahaan taksi robot mengumumkan putaran pendanaan sebesar $16 miliar, yang membawa valuasi perusahaan menjadi $126 miliar. Dalam wawancara dengan Decrypt, juru bicara Waymo menjelaskan bahwa perusahaan tidak menganggap operator jarak jauh sebagai pengemudi dan menolak gagasan bahwa manusia mengendalikan kendaraan secara waktu nyata. “Peran mereka bukan untuk mengemudi kendaraan dari jarak jauh. Mereka bukan pengemudi jarak jauh,” kata juru bicara tersebut. “Mereka menjawab, secara umum, pertanyaan pilihan ganda yang diajukan kepada mereka oleh kendaraan.” “Semua pengemudian sebenarnya terjadi di dalam kendaraan tersebut. Itu tidak terjadi dari jarak jauh,” tambahnya. Juru bicara tersebut mengatakan bahwa baik agen respons armada yang berbasis di AS maupun di luar negeri adalah pengemudi berlisensi dan menerima pelatihan tentang aturan jalan lokal di wilayah yang mereka dukung. “Semua agen respons armada, baik yang berbasis di AS maupun di luar negeri, memiliki lisensi pengemudi kendaraan atau van,” kata juru bicara tersebut. “Mereka belajar tentang aturan jalan lokal di mana mereka akan memberikan bantuan jarak jauh.” Waymo menggambarkan input manusia sebagai kontekstual daripada bersifat arahan.

“Manusia menawarkan saran dalam skenario yang menantang, dan Pengemudi Waymo akan mempertimbangkan saran tersebut saat membuat keputusan berikutnya,” kata juru bicara tersebut. Beberapa peneliti keselamatan mengatakan keterlibatan manusia jarak jauh tetap dapat memainkan peran penting saat terjadi kesalahan. Philip Koopman, profesor emeritus di Carnegie Mellon University yang mempelajari keselamatan kendaraan otonom, menunjuk pada kecelakaan masa lalu di mana bantuan jarak jauh berkontribusi terhadap kesalahan. “Meski Waymo mengatakan bahwa asisten jarak jauh ini sebenarnya tidak mengarahkan atau mengerem, bantuan mereka bisa secara substansial berkontribusi pada kecelakaan, dan menurut saya, itu menjadikan mereka sebagai pengemudi cadangan,” kata Koopman kepada Decrypt. William Riggs, profesor di University of San Francisco yang mempelajari kebijakan dan penerapan kendaraan otonom, mengatakan penggunaan dukungan manusia dari luar lokasi sesuai dengan bagaimana sistem otonom dirancang dan diatur saat ini. “Juga penting untuk membedakan antara ‘bantuan manusia jarak jauh’ dan ‘mengemudi dari jarak jauh,’ karena kedua istilah ini sering disamakan,” kata Riggs kepada Decrypt. “Mengemudi dari jarak jauh melibatkan pengendalian langsung kendaraan dari jarak jauh, sedangkan pengawasan jarak jauh—yang digunakan oleh perusahaan yang mengembangkan Level 4 sejati—memungkinkan kendaraan membuat keputusan di dalam kendaraan secara mandiri, dengan pengawas jarak jauh bertindak sebagai lapisan dukungan daripada operator langsung.” “Kendaraan tetap beroperasi dalam Domain Desain Operasional (ODD) yang disepakati dan diizinkan,” tambahnya. “ODD ini didefinisikan dengan hati-hati bekerja sama dengan regulator negara bagian dan mematuhi kerangka hukum yang berkembang seputar aturan mengemudi.” Sidang ini muncul saat negara bagian AS terus mengeluarkan regulasi yang mengatur kendaraan otonom dan saat Kongres mempertimbangkan apakah akan mengesahkan undang-undang federal yang mengawasi teknologi ini. Waymo dan perusahaan lain, termasuk Tesla yang juga memberi kesaksian selama sidang, menghadapi pengawasan yang meningkat terkait kemampuan mengemudi sendiri mereka.