Dr Brandy Zachary membahas bagaimana pengalamannya dalam menavigasi kerangka medis yang rumit memberinya motivasi untuk mendesain ulang sistem tersebut.
Dr Brandy Zachary adalah CEO dari Functional Medicine Academy, pengembang perangkat lunak untuk analisis laboratorium di Functional Med Labs dan direktur klinis untuk Body Love Cafe, serta peran dan kewajiban lainnya.
Dapat dikatakan bahwa dia telah memakai banyak topi selama berkarir selama puluhan tahun di bidang medis dan kesehatan.
Dia berpendapat bahwa Anda akan berpikir memiliki latar belakang medis atau bahkan minat untuk mengejar a karir berbasis kedokteran akan memungkinkan seorang profesional untuk menavigasi sektor ini dengan mudah, ketika menghadapi masalah mereka sendiri.
Namun tidak demikian halnya dengan Zachary, yang, sebelum berdirinya Laboratorium Kedokteran Fungsional, kesulitan mendapatkan diagnosis berbagai masalah kesehatan, meski memiliki pengalaman medis profesional.
“Selama lebih dari 20 tahun, saya bekerja dengan spesialis di seluruh dunia dan mengumpulkan diagnosa seperti orang lain mengumpulkan prangko. Pada satu titik, otak saya disetrum 20 kali karena infeksi. Saya akhirnya dinyatakan cacat permanen,” katanya kepada SiliconRepublic.com.
“Saya mendapat jawaban di mana-mana. Saya hampir tidak pernah mendapatkan jawaban keseluruhan. Dan saya satu-satunya yang terus bertanya mengapa. Mengapa saya memiliki semua hal ini? Mengapa diagnosisnya tidak nyambung? Mengapa tidak ada orang yang melihat keseluruhan cerita?”
Dia menambahkan: “Saya sudah menjalani pelatihan medis dan jumlah yang harus saya dukung untuk diri saya sendiri sangatlah luar biasa. Jika itu sulit bagi saya, saya tidak dapat membayangkan bagaimana rata-rata pasien seharusnya menjalaninya.”
Saat itulah ia menyadari bahwa cakupan riwayatnya – dan tentu saja, riwayat orang lain – sering kali terlalu luas untuk dipadatkan ke dalam tingkat atau bentuk informasi yang dapat ditangani oleh seorang praktisi atau spesialis.
“Saya telah menjalani setiap janji temu, setiap lab, dan setiap kesalahan, dan bahkan saya tidak dapat mengingat seluruh kasus ini lagi. Jadi, bagaimana seharusnya seorang spesialis menemui saya selama 20 menit? Itulah yang mendorong saya menuju teknologi.”
Seorang pemecah masalah
Dalam sebuah langkah yang membuat Zachary berubah dari seorang ibu tunggal penyandang disabilitas, yang hidup dengan penghasilan kurang dari $1.000 per bulan, menjadi seorang pemecah masalah yang ingin memperbaiki masalah yang berdampak pada ambisi pribadi dan profesionalnya, dia mengaktifkan kembali lisensinya sebagai langkah pertama menuju menemukan metode yang lebih cerdas dalam menentukan hasil lab.
Hal ini mendorongnya untuk membuat LabDX dan Care Plan Builder, sebuah bentuk perangkat lunak klinis yang menggabungkan lebih dari 65 jenis panel laboratorium ke dalam satu rencana perawatan berurutan yang menurutnya mengurangi proses yang biasanya memakan waktu setidaknya tiga jam menjadi sekitar tiga menit.
Dia berkata, “Saya beralih dari ketidakmampuan permanen dalam jaminan sosial menjadi membangun perusahaan yang bernilai delapan digit. Saya melakukan bootstrap sendiri. Tidak ada modal ventura. Tidak ada investor luar. Dalam tiga tahun terakhir, kami telah melatih lebih dari 70.000 praktisi layanan kesehatan.
“Saya telah menginvestasikan jutaan dolar ke dalam teknologi dan infrastruktur di balik apa yang kami lakukan. Itu penting karena saya tidak punya uang dan tidak ada seorang pun yang akan menyediakannya. Jadi, saya harus mendapatkannya sebelum saya bisa membelanjakannya – dan jelas, saya sangat berinvestasi untuk menemukan jawabannya. Hal ini juga membuat saya sangat tidak toleran terhadap teknologi yang tampak mengesankan dan tidak menyelesaikan apa pun.”
Salah satu bagian dari investasi tersebut adalah penerapan AI – sebuah tugas yang menurutnya hanya memerlukan sedikit waktu, namun kenyataannya lebih menuntut dari yang diharapkan.
“Namun, apa yang kami bangun sangat berbeda dengan membungkus LLM dengan layanan kesehatan. Saya menginginkan versi yang mudah. Saya pikir kami bisa menghabiskan $1.000, menyambungkannya ke AI, dan menyelesaikannya dalam sehari,” kata Zachary.
“Setahun dan jutaan kemudian, dengan para insinyur yang bekerja bersama tim klinis beranggotakan 10 orang, kami masih membangun.
“Model ini akhirnya menjadi satu lapisan. Di sekelilingnya, kami memerlukan asupan data yang terkontrol, ekstraksi khusus, pengetahuan klinis terstruktur, sistem pengambilan, logika deterministik, validasi, normalisasi lintas laboratorium, pengamanan, dan cara untuk memutuskan kapan AI generatif harus digunakan dan kapan sebaiknya tidak digunakan.”
Tantangan AI
Salah satu tantangan awal yang diatasi oleh sistem Zachary adalah AI itu sendiri, dan bagaimana keluarannya bisa sangat meyakinkan, bahkan dalam skenario di mana AI mungkin tidak memiliki semua informasi. Lebih buruk lagi, menurutnya, informasi tersebut mungkin memberikan informasi yang sepenuhnya tidak benar.
“Ambil laporan laboratorium PDF dengan 150 penanda. Sebuah LLM dapat menghasilkan analisis yang sempurna meskipun tidak dapat mengekstrak setiap nilai dengan andal. Mungkin ada 50 penanda yang terlewat di tengah-tengahnya. Salah satunya mungkin memerlukan evaluasi medis segera,” katanya.
“Kami langsung menghadapi masalah tersebut. Bahkan sebelum kami dapat berpikir tentang penalaran klinis yang canggih, kami harus membangun teknologi berbeda hanya untuk mengekstraksi laporan laboratorium yang kompleks secara akurat dan dapat direproduksi.
“Hal ini mengubah cara saya mengevaluasi AI dalam bidang kesehatan. Saya kurang terkesan dengan jawaban yang brilian dibandingkan dengan mengetahui secara pasti apa yang dilihat oleh sistem sebelum menghasilkan jawaban.”
Dia menjelaskan bahwa sering kali, platform layanan kesehatan mungkin menggunakan sistem AI dan menyebutnya sebagai inovasi karena “mudah dan dapat didemonstrasikan dengan baik”, terutama karena Anda dapat menempatkan antarmuka obrolan di sekitar model tujuan umum, memberi label “bertenaga AI” di situs web, dan menampilkan sesuatu yang mengesankan dengan sangat cepat.
Dia berkata, “Saya menginginkan jalan pintas itu juga. Namun tidak berhasil. Bagian tersulitnya adalah tidak menghasilkan jawaban yang cerdas. Bagian tersulitnya adalah merekayasa sebuah sistem yang berperilaku andal ketika datanya berantakan, riwayatnya tidak lengkap, sumbernya tidak setuju, dan manusia yang menggunakannya memiliki tingkat keahlian teknis yang sangat berbeda dengan orang yang duduk di sebelahnya.
“Bagian terakhir itu penting. Saya telah melatih lebih dari 70.000 praktisi dalam beberapa tahun terakhir. Menjadi ahli dalam menggunakan pisau bedah, atau bantalan resep, atau di samping tempat tidur tidak membuat seseorang menjadi ahli dalam teknik cepat. Kami mempelajari pelajaran yang sama secara internal.
“Kadang-kadang, rasanya seperti satu pihak menggunakan bahasa isyarat dan pihak lain berbicara Klingon. Pekerjaan penerjemahan tersebut ternyata merupakan bagian dari teknologi. Jika AI klinis hanya bekerja dengan baik ketika dokter mengetahui dengan tepat bagaimana cara melakukannya, Anda belum selesai membuat produk. Berpikir sebaliknya adalah hal yang sangat tidak masuk akal.”
Peluang AI
Tentang risiko bagi pasien di dunia yang didorong oleh AIZachary mencatat bahwa bahayanya tidak ditimbulkan oleh jawaban konyol yang relatif mudah ditangkap. Sebaliknya, jawabannya adalah 90 persen yang benar, namun tidak ada komponen penting dalam 10 persen lainnya.
“Hal ini sangat berbahaya dalam sistem layanan kesehatan di mana dokter sudah kelebihan beban. Jika sebuah mesin dapat merangkum catatan selama tiga tahun dalam 20 detik, masyarakat secara alami akan mulai mempercayai ringkasan tersebut,” katanya.
“Tetapi ada batasan lain yang tidak dapat dipecahkan oleh teknologi saja. Pasien tidak memberikan data yang bersih kepada kami. Mereka ragu-ragu. Mereka meremehkan. Mereka melaporkan secara berlebihan. Kisah mereka berubah. Ada yang tidak sesuai – dan seorang praktisi yang baik menanyakan satu pertanyaan lagi.”
Pada akhirnya, ia menemukan, “AI dapat membaca grafik, namun manusia dapat membaca ruangan. Perbedaan tersebut penting karena ruangan tersebut juga berisi informasi klinis.”