Program komputer memonitor setiap kata siswa atas nama keselamatan – San Bernardino Sun

Oleh Madyson Fitzgerald, Stateline.org (TNS)

Baik itu proyek penelitian tentang Perang Saudara atau eksperimen sains tentang letusan gunung berapi, siswa di Sekolah Distrik Kolonial dekat Wilmington, Delaware, dapat menemukan apa pun di laptop yang disediakan sekolah.

Namun dalam satu kejadian, seorang siswa sekolah dasar mencari “cara mati”.

Dalam kasus tersebut, Meghan Feby, seorang konselor sekolah dasar di distrik tersebut, mendapat panggilan telepon melalui platform bernama GoGuardian Beacon, yang algoritmenya menandai frasa tersebut. Sistem tersebut, yang dijual oleh perusahaan perangkat lunak pendidikan GoGuardian, memungkinkan sekolah memantau dan menganalisis apa yang dilakukan siswa pada perangkat yang disediakan sekolah dan menandai aktivitas apa pun yang menandakan risiko melukai diri sendiri atau mengancam orang lain.

Siswa yang selama ini mencari “cara mati” tidak ingin mati dan tidak menunjukkan tanda-tanda kesusahan, kata Feby – siswa tersebut mencari informasi tetapi tidak dalam bahaya. Meski begitu, dia mengapresiasi program tersebut.

“Saya mengalami beberapa situasi dengan GoGuardian di mana saya sangat senang mereka datang kepada kami dan kami dapat melakukan intervensi,” kata Feby.

Distrik sekolah di seluruh negeri telah banyak menggunakan platform pemantauan komputer tersebut. Dengan krisis kesehatan mental remaja yang diperburuk oleh pandemi COVID-19 dan kekerasan di sekolah yang berdampak pada lebih banyak siswa K-12 di seluruh negeri, para guru sangat membutuhkan solusi, kata para ahli.

Namun para kritikus khawatir tentang kurangnya transparansi dari perusahaan yang memiliki wewenang untuk memantau siswa dan memilih kapan harus memperingatkan staf sekolah. Pengawasan yang sedang berlangsung terhadap siswa juga menimbulkan kekhawatiran tentang data siswa, privasi, dan kebebasan berekspresi.

Meskipun telah tersedia selama lebih dari satu dekade, program ini mengalami lonjakan penggunaan selama pandemi ketika siswa beralih ke pembelajaran online dari rumah, kata Jennifer Jones, staf pengacara di Knight First Amendment Institute.

“Saya pikir karena ada berbagai macam masalah yang harus dihadapi oleh distrik sekolah – seperti masalah kesehatan mental siswa dan bahaya penembakan di sekolah – saya pikir hal tersebut [school districts] lihat saja ini sebagai cara yang murah dan cepat untuk menangani suatu masalah tanpa menginterogasi implikasi kebebasan berpendapat dan privasi dengan cara yang lebih bijaksana,” kata Jones.

Menurut survei perilaku berisiko remaja terbaru dari Pusat Pengendalian dan Pencegahan Penyakit federal, hampir semua indikator kesehatan mental yang buruk, pikiran untuk bunuh diri, dan perilaku bunuh diri meningkat dari tahun 2013 hingga 2023. Pada periode yang sama, persentase siswa sekolah menengah yang mengalami diancam atau disakiti di sekolah, tidak masuk sekolah karena alasan keamanan atau semakin sering melakukan hubungan seks yang dipaksakan, menurut laporan CDC.

Dan ancaman penembakan di sekolah masih menjadi pikiran banyak pendidik. Sejak penembakan di Sekolah Menengah Columbine pada tahun 1999, lebih dari 383.000 siswa mengalami kekerasan senjata di sekolah, menurut hitungan The Washington Post.

CEO GoGuardian Rich Preece mengatakan kepada Stateline bahwa sekitar setengah dari sekolah negeri K-12 di Amerika Serikat telah menginstal platform perusahaan tersebut.

Sebagai siswa di sekolahnya, Feby mendapat peringatan ketika siswa menggunakan istilah pencarian atau kombinasi kata tertentu di laptop yang dikeluarkan sekolah. “Entah itu akan datang kepada saya sebagai email, atau, jika berisiko tinggi, akan datang sebagai panggilan telepon.”

Begitu dia diberitahu, Feby akan memutuskan apakah akan bertemu dengan siswa tersebut atau menelepon ke rumah anak tersebut. Jika sistem menunjukkan aktivitas yang mengkhawatirkan di luar jam sekolah, GoGuardian Beacon akan menghubungi pihak lain di distrik tersebut — termasuk penegak hukum, di beberapa distrik sekolah.

Feby mengatakan dia mendapat beberapa alarm palsu. Seorang siswa ditandai karena lirik lagu yang dilihatnya. Orang lain menelusuri sesuatu yang berhubungan dengan anime.

Sekitar sepertiga siswa di sekolah Feby berasal dari rumah yang bahasa Inggris bukan bahasa ibu mereka, sehingga siswa sering kali menggunakan istilah bahasa Inggris yang mengkhawatirkan secara tidak sengaja. Anak-anak juga bisa penasaran, ujarnya.

Meski begitu, kehadiran GoGuardian di kelas itu penting, kata Feby. Sebelum menjadi konselor 10 tahun lalu, dia adalah seorang guru sekolah. Dan setelah penembakan massal di Sekolah Dasar Sandy Hook tahun 2012, dia menyadari keselamatan sekolah lebih penting dari sebelumnya.

Data dan privasi

Teddy Hartman, kepala petugas privasi GoGuardian, mengajar sastra Inggris di sekolah menengah atas di Los Angeles Timur dan menjadi administrator sekolah sebelum bergabung dengan perusahaan teknologi tersebut sekitar empat tahun lalu.

Hartman dibawa ke GoGuardian untuk membantu menciptakan program privasi yang kuat, katanya, termasuk pagar untuk penggunaan kecerdasan buatan.

“Kami berpikir, 'Bagaimana kita bisa berkreasi bersama dengan para pendidik, ilmuwan data terbaik, ahli teknologi terbaik, sambil tetap mengingat bahwa siswa dan pendidik kita adalah yang pertama dan terpenting?'” kata Hartman.

GoGuardian tidak menggunakan data siswa apa pun di luar perjanjian yang disahkan oleh distrik sekolah dan data tersebut tidak digunakan untuk melatih AI perusahaan, kata Hartman. Perusahaan yang mengatur apa yang boleh dilakukan anak-anak secara online juga diwajibkan untuk mematuhi undang-undang federal mengenai keselamatan dan privasi anak di bawah umur, termasuk Undang-Undang Hak Pendidikan dan Privasi Keluarga serta Aturan Perlindungan Privasi Daring Anak.

Namun para pakar privasi masih khawatir mengenai seberapa besar akses yang seharusnya dimiliki perusahaan-perusahaan semacam ini terhadap data siswa.