एआईको असली खतरा: यसको शक्ति र बुद्धिमता होइन, यस प्रति गरिने अन्धविश्वास हो

जताततै AI को चर्चा छ, आउनुस आज AI कै कुरा गरौं।

AI को सामाजिक र आर्थिक सम्भावना विशाल छ भन्ने कुरामा सायद दुई मत नहोला। यसले व्यक्तिगत उत्पादकता बढाउनुका साथै स्वास्थ्य र शिक्षामा सुधार गर्न, वैज्ञानिक अनुसन्धानको गति बढाउॅंन, तथा नयाँ उद्योग र रोजगारी सिर्जना गर्न सक्छ।

यावत् सम्भावनाहरूका बाबजुद AI कै कारण रोजगारीमा हुन सक्ने व्यापक कटौती, मान्छेको सोच्ने क्षमता र बिबेकमा आउन सक्ने ह्रास, र गलत सूचनाको बाढी जस्ता जोखिमहरू गम्भीर रूपमा देखापरेका छन्। प्रविधिको यो द्रुत विकाससँगै यी चुनौतीहरूलाई समयमै सम्बोधन गर्न नसकेमा यसले समाजमा ठूलो असन्तुलन ल्याउन सक्छ।

AI ले भविष्यमा सिर्जना गर्न सक्ने वास्तविक जोखिमहरूलाई कम नआँकी, यसको मुख्य खतरा कता छ भन्ने कुरामा प्रवेश गरौं:

गत हप्ता AI बनाउने कम्पनी Anthropic का एक जना इन्जिनियरले "यी कम्पनीहरू हाम्रो जीवनसँग जुवा खेलिरहेका छन्" भन्दै राजीनामा दिए। त्यसै कम्पनीमा AI सुरक्षासम्बन्धी अनुसन्धान गर्ने अर्का एक अनुसन्धानकर्ताले पनि दस वर्षभित्र AI कै कारण मान्छे नै सकिने सम्भावना १० प्रतिशतभन्दा बढी भएको बताए। आजकल मिडियामा आउने "मानव सभ्यता सिध्याउने AI" जस्ता डरलाग्दा हेडलाइनहरूले मानिसको ध्यान वास्तविक संकटबाट मोडिदिएका छन्।

AI आफैंमा अनियन्त्रित भएर मानव जातिको अन्त्य गर्ने भन्ने कुरा काल्पनिक जस्तो लाग्न सक्छ, तर दिनरात यही प्रविधिमा काम गर्ने विज्ञहरूले नै गम्भीर चेतावनी दिनुको पछाडि यो प्रविधिको ठूलो प्रभाव र शक्ति छ भन्ने यथार्थ लुकेको छैन।

आफू यस्तै AI system हरू बनाउने भौतिकशास्त्री भएकोले यी AI मोडेलहरू भित्र के छ र कसरी काम गर्छन् भन्ने कुरा राम्ररी थाहा छ। बाहिरबाट हेर्दा यी प्रणालीहरूले सोचेर निर्णय लिए जस्तो देखिए पनि, यो गणितीय हिसाबकिताब र डाटामा आधारित सावधानीपूर्वक व्यवस्थित गरिएको सम्भाव्यताको खेल हो। यी मोडेलहरूको भित्री सीमा र यिनले कसरी काम गर्छन् भन्ने म राम्ररी बुझ्छु। यसैकारण मलाई भविष्यमा आउने काल्पनिक प्रलयभन्दा पनि अहिले भइरहेको एउटा फरक कुराले बढी सताउँछ-त्यो हो, हामीले नबुझिकन यी मेसिनहरूलाई अन्धविश्वास गर्न थाल्नु।

हिजो मात्र CNN ले प्रकाशन गरेको तलको समाचार हेर्नुस् त। अमेरिकी सेनालाई एउटा सुरक्षा सम्बन्धि रिपोर्ट आयोः मध्यपूर्वमा रहेको चिनियाँ जहाजमा आणविक हतियारका सामान छन् भनेर। अमेरिकी सेना सुरक्षा कारबाहीको लागी तयारी अबस्थामा बस्यो। अनि अन्तिम घडीमा थाहा भयो, त्यो रिपोर्ट त एकजना सुरक्षा विश्लेषकले AI च्याटबटको सहयोगमा बनाएका रहेछन्, र च्याटबटले जहाजको सामान नै गलत चिनेछ। रिपोर्ट पूरै झुटो बनेछ। स्रोतहरूले CNN लाई बताए अनुसार एउटा गलत रिपोर्टले झण्डै युद्ध नै सुरु गरिसकेको रहेछ।

सन् १९८३ मा उस्तै तर बिपरीत प्रकृतिको घटनामा रुसी सैनिक अधिकारी Stanislav Petrov ले आणविक क्षेप्यास्त्र आक्रमणको चेतावनी दिने मेसिनले देखाएको गलत सुचनालाई शॅंका गरेर सम्भावित आणविक युद्ध टारेका थिए। उनलाई त्यो प्रणालीको सीमितता र परिस्थितीको ज्ञान र निर्णय गर्ने विवेक पनि थियो। कहिले त्यसलाई विश्वास गर्ने र कहिले नगर्ने भन्ने जान्दथे।

समस्या AI को असीमित शक्ति होइन; समस्या त यसका गलत उत्तरलाई पनि मानिसले आत्मविश्वासका साथ पत्याउनु र आफ्नो बिवेक प्रयोग नगर्नु हो। र यसको समाधान AI को विकास रोक्नु होइन, बरू यसको जिम्मेवार प्रयोग सुनिश्चित गर्नु हो। गर्नु पर्ने निर्णयहरू जति गम्भीर र अपरिवर्तनीय हुन्छ, त्यसको परीक्षण प्रणाली पनि त्यति नै कडा र तथ्य परक हुनुपर्छ। AI लाई अझ बुद्धिमान् बनाउन जत्ति आवश्यकता छ, त्यो भन्दा बढी आबश्यकता यसले कहिले, कसरी र किन गल्ती गर्छ भन्ने बुझ्न र त्यसको बलियो परीक्षण गर्न सक्ने प्रणाली निर्माण गर्नुमा छ।