Mengapa sistem AI harus kuat di lingkungan yang kritis terhadap keselamatan

Rizal Santoso
Rizal Santoso

Sebagai jurnalis yang berpengalaman lebih dari 15 tahun di media Indonesia, saya berkomitmen untuk menyajikan informasi yang relevan dan otentik agar pembaca lebih dekat dengan keragaman Indonesia.

Prof Martin Hayes dari UL tentang penelitian teori sistemnya, mengapa lulusan ‘berbentuk pi’ adalah masa depan teknik, dan pentingnya kesabaran.

Prof Martin Hayes adalah profesor teknologi digital di Universitas Limerick (UL) yang menggambarkan penelitiannya berada “dalam ruang teori sistem untuk pembelajaran mesin dan AI”.

Penelitian Hayes mengamati cara mengelola sumber daya sistem secara cerdas ketika sumber daya tersebut dihadapkan pada ketidakpastian atau pesan beragam yang diperkenalkan oleh saluran komunikasi, sensor, atau operator manusia. Sebagian besar karyanya berfokus pada kinerja AI yang “kuat” di lingkungan yang kritis terhadap keselamatan.

“Bagaimana kita memilih pengaturan dengan benar ketika keluaran sistem AI menjadi masukan bagi pengambilan keputusan oleh manusia, tanpa melakukan kesalahan?” tanya Hayes.

“Kesehatan adalah bidang yang jelas dimana solusi tersebut harus selalu benar.

“Alternatif ini mempunyai konsekuensi nyata dalam hal hasil negatif – jadi saya bertanya bagaimana kita dapat menjamin sistem kesehatan yang akan memanfaatkan manfaat AI sambil bekerja secara optimal untuk setiap warga negara.”

Hayes mengatakan kepada SiliconRepublic.com bahwa seiring dengan peralihan teknologi AI dan pembelajaran mesin dari laboratorium penelitian ke lingkungan yang kritis terhadap keselamatan dan berisiko tinggi, sistem ini “tidak bisa sekadar akurat”, dan bahwa pemahaman tentang cara membangun tingkat dasar ketahanan memungkinkan teknologi diterapkan secara bertanggung jawab di bidang yang diatur seperti kesehatan digital.

“Para profesional yang bekerja di sistem kesehatan, baik petugas medis, insinyur, atau administrator, perlu memahami tidak hanya cara menggunakan alat AI, tetapi juga cara memercayai, menginterogasi, menjelaskan, dan mengaturnya dengan tepat,” katanya. “Tanpa landasan tersebut, adopsi akan terhenti karena kehati-hatian yang berlebihan atau dipercepat tanpa perlindungan yang dibutuhkan oleh lingkungan yang kritis terhadap keselamatan.

“Penelitian translasi yang memberikan landasan bagi mereka yang sudah bekerja atau ingin berpartisipasi dalam Ruang Data Kesehatan Eropa yang baru adalah fokus utama pekerjaan saya.”

‘Lulusan berbentuk Pi’

Dengan karyanya mulai dari teori sistem hingga teknik dan domain dunia nyata tempat alat-alat ini diterapkan, Hayes mengatakan bahwa sifat interdisipliner dari penelitian ini sebenarnya merupakan bagian pekerjaan yang sangat bermanfaat.

Secara khusus, ia menikmati sisi kolaboratif di mana ia bekerja secara langsung dengan mitra industri, dokter, dan UKM untuk “memahami kesenjangan keterampilan yang sebenarnya dan kemudian menerjemahkannya ke dalam pendidikan dan penelitian yang benar-benar dapat menutup kesenjangan tersebut”.

Namun, menurut Hayes, bagian yang paling memuaskan dari pekerjaan ini adalah melihat para lulusan menerapkan pemahaman dan pemikiran ini secara bertanggung jawab di tempat kerja.

“Saya sangat yakin bahwa masa depan pendidikan teknik berkisar pada pertumbuhan lulusan ‘berbentuk pi’ yang memiliki keterampilan dasar dalam rekayasa data yang didukung AI, namun juga memiliki keterampilan kesehatan terkait yang diperlukan untuk dapat menerapkan solusi tersebut dengan cara yang aman dan berpusat pada manusia,” katanya.

Hayes telah memakai dan terus memakai banyak topi di UL, tempat dia bekerja sejak 1997.

Dia adalah pemimpin akademis untuk proyek UL@Work Human Capital Initiative, yang bertujuan untuk mengembangkan talenta digital industri 4.0 melalui pembelajaran yang fleksibel, inovatif, berbasis teknologi, dan berdasarkan pengalaman. Hayes mengatakan keterlibatannya dalam proyek UL@Work “sangat memberikan wawasan”.

“Salah satu hal penting yang dapat diambil adalah bahwa universitas-universitas perlu bekerja sama dan program kolaboratif seperti Digital Europe sangat penting dalam memungkinkan institusi untuk mengumpulkan sumber daya mereka sehingga mereka dapat menawarkan siswa pembelajaran yang sesuai dengan kebutuhan masing-masing.”

Hayes juga berkolaborasi dengan berbagai universitas di Eropa sebagai peneliti utama untuk sejumlah proyek Digital Eropa – seperti Sustainable Healthcare with Digital Health Data Competence (SUSA).

SUSA adalah proyek yang didanai Digital Europe senilai €12,4 juta yang dipimpin oleh Universitas Oulu di Finlandia yang bertujuan untuk menutup kesenjangan keterampilan digital dalam layanan kesehatan Eropa dan mendukung ambisi Dekade Digital UE dan Ruang Data Kesehatan Eropa.

Proyek ini bertujuan untuk memberikan modul pembelajaran seumur hidup tingkat sarjana, magister, dan mandiri yang diperbarui, yang dibangun sekitar 20 tujuan pembelajaran SUSA bersama yang telah dibandingkan dengan kerangka kerja seperti Kerangka Kompetensi Kesehatan Digital WHO.

Hayes adalah penyelidik utama UL untuk SUSA, memimpin ‘Paket Kerja’, yang membingkai dan ikut merancang kegiatan SUSA untuk memaksimalkan dampak.

“Kami memimpin dalam dua tugas spesifik: menyelidiki cara terbaik memberikan pendidikan tentang penggunaan optimal teknologi digital canggih di bidang kesehatan – khususnya XR/AR dan teknologi kembar digital – dan merancang kerangka kerja SUSA yang menghubungkan siswa dengan industri secara paling efisien,” jelasnya.

“Kontribusi UL terhadap ekosistem digital SUSA mengacu pada model dewan penasihat UL@Work dan kemitraan Skillnet yang ada untuk menjaga kurikulum tetap didasarkan pada kebutuhan tempat kerja saat ini.”

Dasar-dasar dan kesabaran

Sebagai seseorang yang bekerja di bidang penelitian yang berfokus pada masa depan, kami bertanya kepada Hayes tentang saran apa yang mungkin dia miliki untuk seseorang yang mempertimbangkan karier serupa dengan dirinya.

Hal pertama dalam daftar? “Bangun fondasi yang kuat pada hal-hal fundamental,” katanya.

Yang dimaksud dengan fundamental adalah teori sistem, matematika, dan statistik.

“Inilah yang memungkinkan Anda beradaptasi, mengonfigurasi, dan pada akhirnya menerapkan solusi seiring kemajuan teknologi,” jelasnya.

Selanjutnya, ia menyarankan para pendatang baru untuk mencari kolaborasi interdisipliner sejak dini dan tidak “takut untuk bekerja pada batasan antara bidang teknik dan bidang penerapannya, baik di bidang kesehatan, manufaktur, atau bidang lainnya”.

“Terlibatlah dalam proyek-proyek yang berhubungan dengan industri jika Anda bisa; umpan balik paling konsisten yang kami dapatkan dari siswa kami adalah bahwa mereka selalu menikmatinya ketika mereka dihadapkan pada kendala dunia nyata baik melalui program pendidikan kooperatif UL atau proyek internal yang mereka selesaikan selama studi mereka,” Hayes menambahkan.

“Pada akhirnya, hal ini mempertajam pertanyaan penelitian dan pengembangan yang Anda ajukan dan menjadikan Anda sumber daya yang lebih berharga,” katanya.

“Terakhir, bersabarlah. Karier Anda, seperti halnya sistem AI yang dapat dipercaya, dibangun dalam jangka panjang dan pasti akan mengharuskan Anda untuk secara aktif mengelola banyak situasi yang tidak pasti.

“Menerima tantangan itu akan memberi Anda kepercayaan diri untuk mencapai tujuan Anda. Pengulangan membangun kompetensi!”