काठमाडौँ । कृत्रिम बुद्धिमत्ता (एआई) प्रविधिको विकासमा विश्वका ठूला प्रविधि कम्पनीबीच तीव्र प्रतिस्पर्धा भइरहेका बेला यसको गति केही सुस्त पार्नुपर्ने आवाज उठेको छ। एआई कम्पनी एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत डारियो अमोडेईले अत्याधुनिक एआई प्रणाली विकास गर्ने दौडलाई केही नियन्त्रण गर्नुपर्ने बताएका छन्। उनले एआईको क्षमता अत्यन्त तीव्र गतिमा बढिरहेको अवस्थामा त्यसको सुरक्षा, परीक्षण र नियन्त्रणका उपाय समान गतिमा विकास हुन नसके भविष्यमा मानिसले प्रविधिमाथिको नियन्त्रण गुमाउन सक्ने जोखिम रहेको चेतावनी दिएका हुन्।

अमोडेईको मुख्य चिन्ता एआई विकास रोक्नेभन्दा पनि एआईको क्षमता र त्यसलाई नियन्त्रण गर्ने मानव क्षमताबीचको दूरी बढ्दै जानु हो। अहिलेका अत्याधुनिक एआई प्रणाली सामान्य प्रश्नको उत्तर दिने वा सामग्री तयार गर्ने उपकरणमा मात्र सीमित छैनन्। तिनले कोड लेख्ने, अनुसन्धानमा सहयोग गर्ने, जटिल समस्या विश्लेषण गर्ने, साइबर सुरक्षा गतिविधि सञ्चालन गर्ने तथा विभिन्न डिजिटल काम स्वचालित रूपमा गर्न सक्ने क्षमता हासिल गरिरहेका छन्। भविष्यका एआई प्रणाली अझ बढी स्वायत्त हुँदै गएमा तिनले मानिसले पूर्ण रूपमा नबुझेको तरिकाले निर्णय वा काम गर्न सक्ने सम्भावना बढ्ने अमोडेईको चिन्ता छ।

उनका अनुसार एआई कम्पनीहरूबीच नयाँ र अझ शक्तिशाली मोडल निर्माण गर्ने प्रतिस्पर्धा तीव्र भइरहँदा सुरक्षा परीक्षण र जोखिम मूल्यांकनका लागि पर्याप्त समय नपुग्ने अवस्था आउन सक्छ। एउटा कम्पनीले शक्तिशाली मोडल सार्वजनिक गरेपछि प्रतिस्पर्धी कम्पनीहरूले पनि त्यसलाई पछ्याउने दबाब महसुस गर्छन्। यस्तो प्रतिस्पर्धाले एआईको क्षमता छोटो समयमै धेरै बढाउन सक्छ, तर त्यससँगै उत्पन्न हुन सक्ने जोखिमको पहिचान र व्यवस्थापन भने त्यही गतिमा हुन नसक्ने खतरा रहन्छ।

अमोडेईले विशेषगरी एआईको बढ्दो स्वायत्त क्षमताप्रति ध्यान दिनुपर्ने बताएका छन्। अत्याधुनिक एआईले भविष्यमा साइबर आक्रमण, ठगी, गलत सूचना फैलाउने तथा अन्य हानिकारक गतिविधिमा सहयोग पुर्‍याउन सक्ने जोखिमबारे एन्थ्रोपिकले यसअघि पनि चेतावनी दिँदै आएको छ। शक्तिशाली एआई प्रणाली गलत व्यक्ति वा समूहको हातमा परेमा त्यसको प्रभाव सामान्य सफ्टवेयरको दुरुपयोगभन्दा निकै ठूलो हुन सक्ने उनको तर्क छ।

यद्यपि अमोडेई एआईको विकास पूर्ण रूपमा रोक्नुपर्ने पक्षमा भने छैनन्। एआईले औषधि अनुसन्धान, वैज्ञानिक खोज, स्वास्थ्य सेवा, शिक्षा, उत्पादकत्वलगायतका क्षेत्रमा ठूलो सकारात्मक परिवर्तन ल्याउन सक्ने उनको धारणा छ। समस्या प्रविधिको विकास आफैंमा नभई त्यसको विकासको गति र सुरक्षा व्यवस्थाबीच सन्तुलन कायम गर्न नसक्नुमा रहेको उनको तर्क छ। त्यसैले एआईको क्षमता बढाउने कामसँगै त्यसको जोखिम पहिचान, सुरक्षा परीक्षण र नियन्त्रणका प्रणालीलाई पनि बलियो बनाउनुपर्नेमा उनले जोड दिएका छन्।

एन्थ्रोपिक प्रमुखले एआई सुरक्षाका लागि कम्पनीभित्र मात्र नभई बाह्य र स्वतन्त्र मूल्यांकनको व्यवस्था आवश्यक रहेको बताएका छन्। उनका अनुसार अत्याधुनिक एआई प्रणालीको सुरक्षा परीक्षण कम्पनी स्वयंले मात्र गर्दा पर्याप्त नहुन सक्छ। स्वतन्त्र मूल्यांकनकर्ताले एआई प्रणालीको कमजोरी, दुरुपयोगको सम्भावना र सुरक्षा जोखिम परीक्षण गर्न पाउने व्यवस्था आवश्यक छ। यसले कम्पनीहरूलाई आफ्ना एआई प्रणाली बजारमा ल्याउनुअघि सम्भावित जोखिम पहिचान गर्न सहयोग गर्ने अपेक्षा गरिएको छ।

त्यसैगरी, उनले एआई क्षेत्रमा प्रतिस्पर्धा गरिरहेका ठूला कम्पनीबीच सुरक्षा मापदण्ड निर्माण र सूचना आदानप्रदानमा सहकार्य आवश्यक रहेको बताएका छन्। एआईको जोखिम कुनै एउटा कम्पनी वा देशमा मात्र सीमित नहुने भएकाले अन्तर्राष्ट्रिय तहमा पनि सहकार्य आवश्यक रहेको उनको धारणा छ। विशेषगरी अत्यन्त शक्तिशाली एआई प्रणालीको विकाससँग सम्बन्धित सुरक्षा मापदण्ड, परीक्षण प्रक्रिया र जिम्मेवारीका विषयमा विभिन्न देशबीच साझा समझदारी आवश्यक बन्दै गएको छ।

एआईसम्बन्धी यो बहस अहिले विश्वभर नै तीव्र भइरहेको छ। एकातर्फ कम्पनीहरू अझ शक्तिशाली एआई निर्माण गरेर आर्थिक तथा प्राविधिक प्रतिस्पर्धामा अघि बढ्न चाहन्छन् भने अर्कोतर्फ वैज्ञानिक, प्रविधिविद् तथा नीति निर्माताहरूले यसको सम्भावित जोखिमबारे प्रश्न उठाइरहेका छन्। एआईले मानिसको काम खोस्ने, गलत सूचना बढाउने, साइबर अपराधलाई सहज बनाउनेदेखि भविष्यमा मानव नियन्त्रण नै चुनौतीमा पार्न सक्ने विषयमा विभिन्न स्तरमा बहस भइरहेको रोयटर्सले जनाएको छ।

यसैबीच, एआई विकासमा ‘गति’ र ‘सुरक्षा’बीच कसरी सन्तुलन कायम गर्ने भन्ने प्रश्न झन् महत्वपूर्ण बनेको छ। एआईको विकासलाई पूर्ण रूपमा रोक्नु व्यावहारिक नहुने भए पनि अत्यधिक तीव्र विकासका कारण सुरक्षा परीक्षण र नियमन पछाडि पर्न नदिनुपर्ने धारणा बलियो हुँदै गएको छ। अमोडेईको पछिल्लो चेतावनीले पनि एआई उद्योगमा अब ‘सबैभन्दा शक्तिशाली एआई कसले बनाउने?’ भन्ने प्रतिस्पर्धासँगै ‘त्यसलाई सुरक्षित र मानव नियन्त्रणभित्र कसरी राख्ने?’ भन्ने प्रश्नलाई समान प्राथमिकता दिनुपर्ने बहसलाई थप अगाडि ल्याएको छ।