काठमाडौं- फेसबुकको मूल कम्पनी मेटाले आफ्नो एउटा एआई मोडलले परीक्षणका क्रममा अर्को संस्थाको कम्प्युटर प्रणालीमा अनधिकृत रूपमा प्रवेश गरेको पुष्टि गरेको छ।

मेटाका अनुसार स्वतन्त्र साइबर सुरक्षा परीक्षण कम्पनीले मूल्यांकन गर्ने क्रममा भएको मिसकन्फिगरेसन सम्बन्धी त्रुटिका कारण उक्त एआई मोडलले इन्टरनेटमा पहुँच पाएको थियो र त्यसपछि तेस्रो पक्षको प्रणालीमा रहेको सुरक्षा कमजोरीको फाइदा उठाएको थियो।

मेटाले यो घटनामा थप अनुसन्धान भइरहेको जनाएको छ। विभिन्न अन्तर्राष्ट्रिय सञ्चार माध्यमले कम्पनीलाई उद्धृत गरेअनुसार यो घटना हालै ओपन एआई र एन्थ्रोपिकका एआई मोडलसँग परीक्षणका क्रममा देखिएका समान प्रकृतिका घटना हुन्।

यो परीक्षण इरेगुलर नामक स्वतन्त्र एआई सुरक्षा कम्पनीले सञ्चालन गरेको थियो। यही कम्पनीले केही दिनअघि एन्थ्रोपिकका एआई मोडलमाथिको परीक्षण पनि गरेको थियो। जहाँ परीक्षणमा भएको त्रुटिका कारण मोडलले वास्तविक इन्टरनेटमा पहुँच पाएको थियो। इरेगुलरले मेटासम्बन्धी घटना पनि 'एन्थ्रोपिकले सार्वजनिक गरेको उही परीक्षण वातावरणको समस्या' भएको जनाएको छ।

मेटाले घटनाबारे सबै तथ्य संकलन भएपछि विस्तृत विवरण सार्वजनिक गर्ने जनाएको छ। साथै इरेगुलरले भविष्यमा एआई एजेन्टहरूको साइबर सुरक्षा परीक्षण सुरक्षितरूपमा कसरी सञ्चालन गर्ने भन्ने विषयमा छुट्टै प्रतिवेदन तयार गरिरहेको पनि बताएको छ।

मेटाको खुलासाअघि पनि पछिल्ला दुई सातामा ओपन एआई र एन्थ्रोपिकले आफ्ना एआई मोडलहरू परीक्षणका क्रममा वास्तविक प्रणालीमा पुगेको स्वीकार गरेका थिए।

ओपन एआईले आफ्ना परीक्षण मोडलहरूले 'हगिङ फेस' लगायतका सार्वजनिक सेवामा प्रवेश गरी सुरक्षा कमजोरीको प्रयोग गरेको जनाएको थियो।

कम्पनीका अनुसार परीक्षणका लागि बनाइएको 'स्यान्डबक्स' वातावरणमा भएको मानवीय त्रुटिका कारण मोडलले वास्तविक इन्टरनेटमा पहुँच पाएको थियो। त्यसपछि कम्पनीले परीक्षण प्रक्रिया र सुरक्षा नियन्त्रण थप कडा बनाउने घोषणा गरेको छ।

ओपन एआईको खुलासापछि एन्थ्रोपिकले आफ्ना पुराना परीक्षण अभिलेख पुनः समीक्षा गर्दा तीनवटा फरक कम्पनीको प्रणालीमा उसका एआई मोडलले अनधिकृत प्रवेश गरेको फेला पारेको थियो। कम्पनीले यसको कारण पनि परीक्षण वातावरणमा भएको कन्फिगरेसन त्रुटिलाई नै मानेको छ।

बेलायतको एआई सेक्युरिटी इन्स्टिच्युट (एआईएसआई) ले सार्वजनिक गरेको परीक्षण प्रतिवेदनले केही अत्यधुनिक एआई मोडलहरूले साइबर आक्रमणका क्रममा फेक प्रोफाइल सिर्जना गरी वास्तविक व्यक्तिलाई झुक्याउने प्रयास गरेको जनाएको छ।

एआईएसआईका अनुसार सबैभन्दा गम्भीर घटनामा एन्थ्रोपिकको परीक्षण मोडलले वास्तविक व्यक्तिजस्तो देखिने नक्कली खाता प्रयोग गरेर निजी सन्देश पठाइ प्रणालीमा पहुँच प्राप्त गर्ने प्रयास गरेको थियो। एन्थ्रोपिकले ती परीक्षणहरू आफ्ना सार्वजनिक रूपमा उपलब्ध उत्पादन मोडलहरूको प्रतिनिधित्व नगर्ने प्रतिक्रिया दिएको छ। ओपन एआईले पनि परीक्षणको अवस्था सामान्य प्रयोगभन्दा फरक रहेको जनाएको छ।

यी घटनापछि एआई सुरक्षा अनुसन्धानकर्ता तथा सरकारी निकायहरूले अत्यधुनिक एआई प्रणालीहरूको परीक्षण गर्दा थप कडा सुरक्षा घेरा, वास्तविक समयको निगरानी र कडा मूल्यांकन प्रक्रिया अपनाउनुपर्ने आवश्यकता औँल्याएका छन्।