Gedung Putih: Penggunaan ‘data besar’ oleh pemerintah dan bisnis mungkin merupakan diskriminasi

Tinjauan Gedung Putih mengenai bagaimana pemerintah dan sektor swasta menggunakan kumpulan data besar menemukan bahwa informasi tersebut dapat digunakan untuk mendiskriminasi warga Amerika dalam isu-isu seperti perumahan dan pekerjaan, meskipun informasi tersebut membuat hidup mereka lebih mudah dalam banyak hal.

“Data besar” ada dimana-mana.

Hal ini memungkinkan program pemetaan untuk melakukan ping ke ponsel secara anonim dan menentukan secara real time jalan mana yang paling padat. Namun hal ini juga dapat digunakan untuk menyasar masyarakat yang rentan secara ekonomi.

Undang-undang federal tidak mampu mengimbangi pesatnya perkembangan teknologi sehingga dapat melindungi masyarakat dari diskriminasi.

Tinjauan tersebut, diperkirakan akan dirilis minggu depan, merupakan upaya pertama pemerintahan Obama untuk mengatasi tantangan yang luas, di luar keamanan nasional dan privasi konsumen, yang ditimbulkan oleh kemajuan teknologi.

Presiden Barack Obama meminta peninjauan tersebut pada bulan Januari, ketika ia menyerukan perubahan terhadap beberapa program pengawasan Badan Keamanan Nasional (NSA) yang mengumpulkan sejumlah besar data milik orang Amerika dan orang asing.

Teknologi yang memungkinkan program-program tersebut terwujud juga memungkinkan program-program lain digunakan di pemerintahan dan sektor swasta. Gedung Putih secara terpisah telah meninjau program NSA dan mengusulkan perubahan untuk mengendalikan pengumpulan besar-besaran catatan telepon dan email warga Amerika.

“Ini adalah momen untuk mundur dan berkata, ‘Apakah ini mengubah kerangka dasar kita atau melihat cara kita menangani catatan dan privasi,'” kata penasihat Obama John Podesta dalam wawancara dengan The Associated Press.

“Dengan pesatnya perubahan teknologi, sulit membayangkan seperti apa generasi mendatang. Tapi setidaknya kita bisa melihat ke masa depan dan berkata, “Inilah trennya. Apa apakah yang kita lakukan? mengantisipasi kemungkinan masalah kebijakan yang ditimbulkannya?”‘

Podesta memimpin peninjauan selama 90 hari tersebut, bersama dengan beberapa penasihat ekonomi dan sains Obama. Tujuannya, kata Podesta, adalah untuk menentukan apakah undang-undang dan kebijakan privasi saat ini sudah memadai.

Namun kekhawatiran tak terduga muncul selama pertemuan pejabat Gedung Putih dengan para pemimpin bisnis dan pendukung privasi: bagaimana big data dapat digunakan untuk menargetkan konsumen dan mengarah pada praktik diskriminatif.

Misalnya, dalam percakapan dengan Gedung Putih, para pemimpin hak-hak sipil telah mengangkat isu mengenai pengusaha yang menggunakan data untuk memetakan tempat tinggal pelamar kerja dan kemudian menilai mereka berdasarkan hal tersebut, terutama pada pekerjaan dengan upah rendah.

“Meskipun big data merevolusi bisnis dan pemerintahan menjadi lebih baik, hal ini juga meningkatkan potensi diskriminasi,” kata Wade Henderson, presiden dan CEO Leadership Conference on Civil and Human Rights.

Beberapa pemberi kerja mungkin khawatir jika pelamar tinggal cukup jauh dari pekerjaannya, dia mungkin tidak akan bertahan lama di pekerjaannya. Dengan semakin banyaknya pekerjaan yang berpindah ke luar kota dan ke pinggiran kota, hal ini dapat menciptakan sistem sewa berdasarkan kelas.

“Anda pada dasarnya sedang mencari pekerjaan karena karakteristik yang sangat sewenang-wenang,” kata Chris Calabrese, seorang pengacara di American Civil Liberties Union. “Penggunaan data ini mempunyai dampak nyata terhadap kehidupan masyarakat.”

Para pembela hak-hak sipil tidak dapat memberikan contoh spesifik mengenai ketidakadilan tersebut, namun malah berbicara tentang bagaimana data tersebut dapat digunakan secara diskriminatif.

Undang-undang ketenagakerjaan federal tidak membahas taktik yang berbeda-beda ini, kata Calabrese. Demikian pula, undang-undang anti-diskriminasi perumahan melarang menargetkan pelanggan berdasarkan laporan kredit. Namun undang-undang tersebut tidak mengatur penggunaan titik data lain yang dapat mengelompokkan orang ke dalam kelompok berdasarkan informasi yang diperoleh dari media sosial.

Misalnya, perusahaan menjual data yang dikumpulkan dari situs media sosial yang mengelompokkan orang ke dalam kelompok, seperti kategori “Pejuang Etnis Kota Kedua”. Bank mungkin menargetkan orang-orang yang telah memposting di media sosial tentang kehilangan pekerjaan sebagai kandidat untuk mendapatkan pinjaman berbunga tinggi. Idenya adalah bahwa seseorang yang kehilangan pekerjaan mungkin terlambat membayar hipotek dan mungkin terbuka terhadap pinjaman berbunga tinggi untuk membantu keluar dari masalah, kata Calabrese.

“Anda secara individu ditargetkan untuk mendapatkan pinjaman berdasarkan penyertaan pada salah satu daftar ini dan diberi tingkat bunga yang tinggi. Hal ini terlepas dari kenyataan bahwa jika Anda keluar dari jalan, Anda mungkin memenuhi syarat untuk mendapatkan tingkat bunga yang lebih rendah. Anda tidak pernah tahu bahwa itu adalah Anda ditargetkan secara individual karena Anda hanya mengeklik iklan di samping situs web,” jelas Calabrese. “Ini adalah diskriminasi.”

Jennifer Barrett Glasglow, kepala petugas privasi untuk pialang data Acxiom, mengatakan perusahaannya yang berbasis di Little Rock, Ark. menyaring pelanggan sebelum menjual data untuk memastikan data akan digunakan dengan tepat dan bukan untuk alasan diskriminatif.

Dia juga mengatakan tawaran diskriminatif bisa saja dilakukan tanpa data Acxiom.

“Kita harus berhati-hati agar kita tidak mengejar data itu sendiri,” katanya.

Glasglow mengatakan kategori “Perjuangan Etnis Kota Kedua” bisa sangat efektif dalam menjangkau komunitas yang membutuhkan, seperti mengiklankan penjualan atau penawaran yang memberikan layanan lebih terjangkau. Glasglow mengatakan konsumen dapat melaporkan apa yang mereka yakini sebagai praktik tidak adil kepada Biro Perlindungan Keuangan Konsumen federal.

“Mari kita kejar orang-orang yang melakukan praktik buruk,” katanya.

Konsep memasukkan orang ke dalam kategori, atau “segmentasi”, untuk tujuan pemasaran bukanlah hal baru, kata Eric Siegel, pakar analisis prediktif, yaitu seni menentukan apa yang harus dilakukan dengan data tentang perubahan perilaku. aktivitas kriminal. .

Hanya sedikit yang membantah bahwa ada banyak alasan bagus untuk menggunakan data besar.

“Ada dorongan dari pemerintah untuk mengatakan bahwa ini adalah alat yang penting, dan kemampuan untuk menerapkan analisis terhadap data tersebut penting untuk berbagai masalah mulai dari layanan kesehatan, pendidikan, hingga keselamatan publik,” kata Podesta.

Hal ini dapat membantu masyarakat menjadi lebih efisien.

Operasi analisis data di New York di bawah kepemimpinan mantan Walikota Michael Bloomberg memungkinkan kota tersebut untuk menentukan properti yang berisiko lebih tinggi terhadap kebakaran mematikan dengan menganalisis data pemadam kebakaran bersama dengan data tentang keluhan dan penyitaan perumahan ilegal.

Pemerintah federal baru-baru ini mengumumkan inisiatif untuk memberikan akses yang lebih baik terhadap data iklim kepada perusahaan swasta dan pemerintah daerah. Data ini dapat membantu masyarakat dan pengembang memutuskan lokasi yang tidak akan dibangun berdasarkan prediksi permukaan laut.

Kampanye politik, khususnya kampanye presiden tahun 2012, mengandalkan kumpulan data yang besar untuk menargetkan donor tertentu yang mungkin memberikan dana paling banyak. Analisis semacam itu menghasilkan kontribusi aset miliaran dolar, yang merupakan biaya Gedung Putih termahal dalam sejarah.

Nuala O’Connor, presiden Pusat Demokrasi dan Teknologi, mengatakan perlunya lebih banyak transparansi dalam cara perusahaan menggunakan data ini, dan itu berarti memperbarui beberapa undang-undang.

Salah satunya adalah Undang-Undang Komunikasi dan Privasi Elektronik tahun 1986. Podesta mengatakan dia akan merekomendasikan pembaruan undang-undang tersebut, yang mengatur bagaimana pemerintah dapat mengakses komunikasi pribadi untuk tujuan penegakan hukum. Ini adalah sesuatu yang sudah lama diinginkan oleh para pendukung privasi dan beberapa anggota Kongres.

“Pasti ada celah dalam hukum,” kata O’Connor menjelaskan. “Teknologi ini melampaui perubahan peraturan dan legislatif.”