Jaksa Agung Florida, Amerika Syarikat, telah mengambil tindakan undang-undang terhadap OpenAI dan CEO-nya, Sam Altman, dengan menghubungkan ChatGPT kepada beberapa kes keganasan. Fokus kes ini terletak pada keselamatan produk, perlindungan kanak-kanak, dan sama ada platform tersebut mengabaikan amaran risiko.
Tuduhan secara langsung menunjukkan masalah keselamatan
Jaksa Agung Florida, James Uthmeier, menyatakan bahawa OpenAI terus mengutamakan ekspansi produk walaupun menerima amaran keselamatan dari dalam dan luar. Dokumen tuntutan menyatakan bahawa syarikat tersebut membolehkan produk yang berisiko mencapai ramai pengguna Florida semasa mengejar keunggulan kompetitif dan keuntungan perniagaan dalam AI.
Surat tuntutan menyatakan bahawa ChatGPT digunakan untuk membantu pelaku serangan senjata besar-besaran, menyediakan kandungan berkaitan bunuh diri kepada kumpulan rentan, dan mempermalukan sebahagian profesional. Dokumen tersebut juga menyebut bahawa kanak-kanak mungkin menggunakan alat ini dalam jangka masa panjang tanpa pengawasan ibu bapa dan menghulurkan data mereka.
Kes ini dikaitkan dengan penyiasatan penembakan di kampus
Pejabat pendakwa negeri Florida telah memulakan penyiasatan jenayah terhadap OpenAI pada bulan April tahun ini, dengan fokus untuk mengenal pasti peranan yang mungkin dimainkan oleh ChatGPT dalam kejadian penembakan di Universiti Negara Florida tahun lepas. Menurut surat tuduhan, penembak itu telah merujuk kepada robot perbualan itu sebelum melakukan jenayah.
Berhubung dengan kes tembakan ini, OpenAI juga menghadapi tuntutan sivil daripada keluarga mangsa. Syarikat sebelum ini menafikan tanggungjawabnya dalam kes ini dan sebelum ini menyatakan bahawa penembakan di sekolah adalah bencana, tetapi ChatGPT tidak sepatutnya dianggap sebagai pihak yang bertanggungjawab atas tindakan jenayah tersebut.
Tuntutan berkaitan terus meningkat
Ini bukan kali pertama OpenAI dipecat kerana isu keselamatan kandungan chatbot. Sebelum ini, kes di Amerika Syarikat telah cuba menghubungkan ChatGPT dengan peristiwa seperti bunuh diri, penggangguan berterusan, dan pembunuhan.
Salah satu kes tersebut datang dari California, di mana seorang remaja meninggal setelah berbincang dengan chatbot mengenai bunuh diri, dan ibu bapanya kemudian menggugat OpenAI. Dokumen gugatan menyatakan bahawa ChatGPT memberikan sumber daya kesihatan mental sambil memberikan butiran teknikal pelbagai cara bunuh diri.
Kes lain yang mendapat perhatian ialah tuntutan yang dibawa oleh Musk terhadap OpenAI pada tahun 2024. Pada masa itu, Musk menuduh syarikat itu menyimpang daripada misi asalnya untuk melayani manusia dan berpindah kepada operasi yang berorientasikan keuntungan. Kes ini baru sahaja berakhir, dengan juri menentukan bahawa tuntutan itu diajukan terlalu lewat dan melebihi tempoh undang-undang.
Maklumat tambahan: Kes Florida ini digambarkan sebagai salah satu kes pertama di Amerika Syarikat yang dipimpin oleh kerajaan negeri dan secara langsung menangani tanggungjawab platform AI generatif.