Pretxt, salah satu pendiri Irlandia, mengumpulkan dana sebesar $5 juta untuk mengawasi agen AI

Rizal Santoso
Rizal Santoso

Sebagai jurnalis yang berpengalaman lebih dari 15 tahun di media Indonesia, saya berkomitmen untuk menyajikan informasi yang relevan dan otentik agar pembaca lebih dekat dengan keragaman Indonesia.

Perusahaan rintisan ini, yang dipimpin bersama dari Dublin dan Colorado, menawarkan untuk menjaga agen AI tetap sejalan saat mereka mengambil alih tugas-tugas yang lebih penting di tempat kerja.

Perusahaan rintisan keamanan yang didirikan bersama di Irlandia, Pretxt, muncul dari upaya sembunyi-sembunyi untuk menjaga akuntabilitas “agen AI” di tempat kerja dengan teknologi pengawasan AI-nya.

Perusahaan ini, yang didirikan bersama oleh profesional keamanan karier Brian Soby dan Aaron Costello awal tahun ini, mengumumkan penggalangan dana sebesar $5 juta hari ini (17 November) dari Deciens Capital, Howdy Partners, dan Service Provider Capital. Kepemimpinan start-up ini berlokasi di Dublin, Irlandia dan Colorado, AS.

Lapisan pengawasan Pretxt mengklaim dapat mengevaluasi perilaku agen AI secara kontekstual, memandu agen ketika mereka menyimpang dari proses yang disetujui, dan mengidentifikasi peluang untuk memperkuat pengawasan dari waktu ke waktu.

“Anda tidak memerlukan serangan injeksi yang cepat agar agen AI dapat melakukan sesuatu yang tidak seharusnya,” kata Soby, CEO perusahaan tersebut.

“Anda tidak bisa mengawasi tenaga kerja agen AI dengan harapan, buku peraturan, dan tinjauan setelah kejadiannya. AI memerlukan pengawasan saat bertindak.”

Agen AI semakin banyak menangani tugas-tugas penting di tempat kerja, mulai dari berbicara dengan pelanggan dan memproses transaksi hingga menjalankan alur kerja. Meskipun demikian, terkadang mereka dapat melewatkan langkah-langkah, berhalusinasi tentang pengecualian, atau membuat komitmen yang tidak sah.

Pretxt mengatakan platformnya memberikan pengawasan AI “60 kali lebih cepat” dan mengatasi masalah tanpa menghambat pekerjaan yang seharusnya dilakukan agen.

Soby sebelumnya ikut mendirikan perusahaan keamanan jaringan AppOmni yang berbasis di California, yang ia pimpin sebagai chief technology officer (CTO) hingga awal tahun ini, sementara Costello menjabat sebagai kepala penelitian keamanan SaaS perusahaan tersebut selama beberapa tahun.

Lulusan Universitas Teknologi Dublin, Costello – CTO Pretxt – sebelumnya bekerja di lokasi Cork VMware, dan HackerOne.

“Mengawasi agen AI tidak berarti menjadi ahli dalam segala hal yang disentuhnya, atau dalam cara pembuatannya,” kata Costello.

Vishal Rana, seorang mitra di Deciens Capital berkata: “Agen AI beralih ke alur kerja di mana kesalahan memiliki konsekuensi nyata.

“Kami berinvestasi di Pretxt karena kami percaya pada pengawasan saat runtime akan menjadi lapisan dasar infrastruktur AI perusahaan. Peluangnya tidak hanya untuk mengidentifikasi hasil yang buruk setelah hal tersebut terjadi, namun untuk membantu organisasi mengubah hasil tersebut saat pekerjaan masih berlangsung.” Pretxt sekarang tersedia melalui program akses awal.