Google Mengembangkan Ukuran Warna Kulit Baru untuk Mengekang Bias dalam Produk

Matikan AdBlocknya

Tolong matikan AdBlocknya untuk mengakses kontent.

Google Alphabet mengatakan kepada Reuters minggu ini bahwa mereka sedang mengembangkan alternatif untuk metode standar industri untuk mengklasifikasikan warna kulit, yang menurut para peneliti teknologi dan ahli kulit tidak memadai untuk menilai apakah produk bias terhadap orang kulit berwarna.

Yang dipermasalahkan adalah skala enam warna yang dikenal sebagai Fitzpatrick Skin Type (FST), yang telah digunakan oleh dokter kulit sejak tahun 1970-an. Perusahaan teknologi sekarang mengandalkannya untuk mengkategorikan orang dan mengukur apakah produk seperti sistem pengenalan wajah atau sensor detak jantung jam tangan pintar berkinerja sama baiknya di semua warna kulit.

Kritikus mengatakan FST, yang mencakup empat kategori untuk kulit “putih” dan masing-masing untuk “hitam” dan “coklat”, mengabaikan keragaman di antara orang kulit berwarna. Para peneliti di Departemen Keamanan Dalam Negeri AS, selama standar teknologi federal konferensi Oktober lalu, direkomendasikan untuk mengabaikan FST untuk mengevaluasi pengenalan wajah karena tidak mewakili rentang warna dalam populasi yang beragam.

Menanggapi pertanyaan Reuters tentang FST, Google, untuk pertama kalinya dan di depan rekan-rekan, mengatakan bahwa telah diam-diam mengejar langkah-langkah yang lebih baik.

“Kami sedang mengerjakan langkah-langkah alternatif, lebih inklusif, yang dapat berguna dalam pengembangan produk kami, dan akan berkolaborasi dengan pakar ilmiah dan medis, serta kelompok yang bekerja dengan komunitas kulit berwarna,” kata perusahaan itu, menolak untuk memberikan rincian. pada usaha.

Kontroversi tersebut merupakan bagian dari pertimbangan yang lebih besar atas rasisme dan keragaman dalam industri teknologi, di mana tenaga kerja lebih berkulit putih daripada di sektor-sektor seperti keuangan. Memastikan teknologi bekerja dengan baik untuk semua warna kulit, serta usia dan jenis kelamin yang berbeda, diasumsikan lebih penting karena produk baru, sering kali didukung oleh kecerdasan buatan (AI), meluas ke area sensitif dan diatur seperti perawatan kesehatan dan penegakan hukum.

Perusahaan tahu produk mereka bisa salah untuk kelompok yang kurang terwakili dalam penelitian dan pengujian data. Kekhawatiran atas FST adalah skala terbatasnya untuk kulit yang lebih gelap dapat mengarah pada teknologi yang, misalnya, bekerja untuk kulit cokelat keemasan tetapi gagal untuk nada merah espresso.

Berbagai jenis produk menawarkan palet yang jauh lebih kaya daripada FST. Crayola tahun lalu meluncurkan 24 krayon warna kulit, dan boneka Barbie Fashionistas Mattel tahun ini mencakup sembilan warna.

Masalah ini jauh dari akademis untuk Google. Ketika perusahaan mengumumkan pada bulan Februari bahwa kamera pada beberapa ponsel Android dapat mengukur denyut nadi melalui ujung jari, itu berkata pembacaan rata-rata akan salah sebesar 1,8 persen terlepas dari apakah pengguna memiliki kulit terang atau gelap.

Perusahaan nanti memberikan jaminan serupa jenis kulit itu tidak akan secara nyata memengaruhi hasil fitur untuk memfilter latar belakang pada konferensi video Meet, atau alat web yang akan datang untuk mengidentifikasi kondisi kulit, yang disebut secara informal Bantuan Kulit.

Kesimpulan tersebut didapat dari pengujian dengan FST six-tone.

Titik pangkal

Almarhum dokter kulit Universitas Harvard Dr. Thomas Fitzpatrick ditemukan skala untuk pengobatan radiasi ultraviolet personal untuk psoriasis, kondisi kulit gatal. Dia mengelompokkan kulit orang “putih” sebagai angka Romawi I hingga IV dengan menanyakan berapa banyak kulit terbakar atau cokelat yang mereka timbulkan setelah periode tertentu di bawah sinar matahari.

Satu dekade kemudian muncul tipe V untuk kulit “cokelat” dan VI untuk “hitam”. Skala ini masih menjadi bagian dari peraturan AS untuk menguji produk tabir surya, dan tetap menjadi standar dermatologi populer untuk menilai risiko kanker pasien dan banyak lagi.

Beberapa ahli kulit mengatakan skala adalah ukuran yang buruk dan terlalu sering digunakan untuk perawatan, dan sering digabungkan dengan ras dan etnis.

“Banyak orang akan menganggap saya tipe kulit V, yang jarang sampai tidak pernah terbakar, tapi saya terbakar,” kata Dr. Susan Taylor, dokter kulit dari University of Pennsylvania yang mendirikan Skin of Color Society pada 2004 untuk mempromosikan penelitian tentang komunitas yang terpinggirkan. “Melihat rona kulit saya dan mengatakan saya tipe V tidak merugikan saya.”

Perusahaan teknologi, sampai saat ini, tidak peduli. Unicode, sebuah asosiasi industri yang mengawasi emoji, mengacu pada FST pada tahun 2014 sebagai dasar untuk mengadopsi lima warna kulit di luar kuning, pepatah skalanya adalah “tanpa asosiasi negatif”.

Sebuah studi 2018 berjudul “Gender Shades,” yang menemukan sistem analisis wajah lebih sering salah mengira orang dengan kulit lebih gelap, dipopulerkan menggunakan FST untuk mengevaluasi AI. Penelitian tersebut menggambarkan FST sebagai “titik awal”, tetapi para ilmuwan dari studi serupa yang datang kemudian mengatakan kepada Reuters bahwa mereka menggunakan skala untuk tetap konsisten.

“Sebagai langkah pertama untuk pasar yang relatif belum matang, ini berfungsi untuk membantu kami mengidentifikasi tanda bahaya,” kata Inioluwa Deborah Raji, rekan Mozilla yang fokus pada audit AI.

Di bulan April belajar menguji AI untuk mendeteksi deepfake, peneliti Facebook menulis FST “jelas tidak mencakup keragaman dalam warna kulit coklat dan hitam.” Namun, mereka merilis video 3.000 individu yang akan digunakan untuk mengevaluasi sistem AI, dengan tag FST dilampirkan berdasarkan penilaian delapan penilai manusia.

Penilaian para penilai sangat penting. Startup perangkat lunak pengenalan wajah AnyVision tahun lalu memberi selebriti contoh untuk penilai: mantan pemain bisbol hebat Derek Jeter sebagai tipe IV, model Tyra Banks a V dan rapper 50 Cent a VI.

AnyVision mengatakan kepada Reuters bahwa mereka setuju dengan keputusan Google untuk meninjau kembali penggunaan FST, dan Facebook mengatakan terbuka untuk langkah-langkah yang lebih baik.

Microsoft dan pembuat jam tangan pintar Apple dan Garmin merujuk FST saat mengerjakan sensor terkait kesehatan.

Tetapi penggunaan FST dapat memicu “kepastian palsu” tentang pembacaan detak jantung dari jam tangan pintar pada kulit yang lebih gelap, dokter University of California San Diego, terinspirasi oleh gerakan kesetaraan sosial Black Lives Matter, menulis dalam jurnal Sleep tahun lalu.

Microsoft mengakui ketidaksempurnaan FST. Apple mengatakan itu menguji pada manusia di seluruh warna kulit menggunakan berbagai ukuran, FST hanya pada waktu di antara mereka. Garmin mengatakan karena pengujian yang luas, pihaknya yakin pembacaan dapat diandalkan.

Victor Casale, yang mendirikan perusahaan rias Mob Beauty dan membantu Crayola membuat krayon baru, mengatakan dia mengembangkan 40 warna untuk alas bedak, masing-masing berbeda sekitar 3%, atau cukup untuk membedakan kebanyakan orang dewasa.

Akurasi warna pada elektronik menyarankan standar teknologi harus memiliki 12 hingga 18 nada, katanya, menambahkan, “Anda tidak bisa hanya memiliki enam.”

© Thomson Reuters 2021

.

Leave a Reply