ए०आय० चर्चांची खरी ताकद

ए०आय० चर्चांची खरी ताकद
====================

-राजीव उपाध्ये

*टीप - मी (स्वयंप्रेरणेने) सध्या करत असलेल्या कामाचा हा थोडक्यात परिचय आहे.*

मानवाचे बहुआयामी प्रश्न सोडवताना एकटा तज्ज्ञ अनेकदा अपुरा पडतो कारण अशा प्रश्नांचा सर्व बाजूनी विचार एका व्यक्तीला करणे सहसा शक्य नसते. मग तज्ज्ञ समिती गठीत केली जाते आणि मग असे गुंतागुंतीचे प्रश्न तज्ज्ञ समितीकडे सोपवले जातात. पण अशा समित्या या टीकेच्या, उपहासाचा विषय बनतात. त्याची कारणे अनेक असतात- समितीची रचना, त्यांनी घेतलेला वेळ, सदस्यांचे आपापसातले हितसंबंध. समितीवर होणारा खर्च इ० अनेक सांगता येतात.

साहजिक माझ्या मनात एक प्रश्न निर्माण झाला की मानवी समित्यांप्रमाणे ए०आय० समिती तयार करून गुंतागुंतीचे प्रश्न सर्व बाजूंनी तपासता येतील का? या तंत्रज्ञानाच्या मर्यादांचे भान ठेवले तर चित्र बरेच आशादायक दिसते.

कल्पना करा, तुम्हाला एक महत्त्वाचा वैद्यकीय निर्णय घ्यायचा आहे. डॉक्टरांनी एक औषध सुचवले आहे. औषध अनेक वर्षे घ्यावे लागणार आहे आणि तुम्हाला साहजिकच प्रश्न पडतो—खरोखर याची गरज आहे का? तुम्ही एका कृत्रिम बुद्धिमत्ता प्रणालीला विचारता. मग ती काही संशोधनांचा उल्लेख करते, आकडे देते आणि शेवटी सांगते की औषध घेणे योग्य ठरेल. विषय गंभीर असल्यामुळे तुम्ही एका ए०आय० वर विश्वास ठेवत नाही. दुसऱ्या ए०आय० ला विचारता. त्याचे उत्तरही जवळजवळ तेच. मग तिसरे. मग चौथे. शेवटी पाचवे. पाचही ए०आय० एकाच निष्कर्षापर्यंत पोहोचतात.

आता मनातली शंका बरीच कमी होते. एका ए०आय० ची चूक होऊ शकते; पण पाच वेगवेगळ्या ए०आय० ची एकाच वेळी कशी होईल? नेमका इथेच एक अतिशय फसवा आणि तितकाच धोकादायक गैरसमज लपलेला आहे. पाच ए०आय० एकाच गोष्टीवर सहमत आहेत याचा अर्थ त्या निष्कर्षाला पाच स्वतंत्र पुरावे आहेत असा होत नाही. पाचही ए०आय० प्रणालींनी मोठ्या प्रमाणावर समान सार्वजनिक मजकूर वाचलेला असू शकतो, त्यांच्यापर्यंत त्याच लोकप्रिय कल्पना पोहोचलेल्या असू शकतात, त्यांनी त्याच संशोधनांचा आधार घेतलेला असू शकतो आणि एखाद्या संशोधनाचा चुकीचा अर्थ इंटरनेटवर हजारो ठिकाणी पुनरावृत्त झाला असेल तर पाचही प्रणालींनी तीच चूक आत्मसात केलेली असू शकते.

याची तूलना  एखाद्या WhatsApp अफवे बरोबर करणे योग्य ठरेल. सकाळी तुमचा मित्र सांगतो की उद्या शहरातील सर्व बँका बंद आहेत. थोड्या वेळाने शेजारीही तेच सांगतात. दुपारी दुकानदार म्हणतो, “उद्या बँकेत जाऊ नका, सुट्टी आहे म्हणे.” संध्याकाळपर्यंत पाच वेगवेगळ्या लोकांकडून तुम्ही तीच बातमी ऐकलेली असते. पाच जणांनी स्वतंत्रपणे सांगितले असल्यामुळे बातमी खरी असण्याची शक्यता मोठी वाटते. पण नंतर कळते की त्या पाचही जणांनी सकाळी फिरलेला एकच WhatsApp संदेश वाचला होता.

इथे पाच वेगवेगळे आवाज होते; पण स्रोत मात्र एकच होता. कृत्रिम बुद्धिमत्तेच्या बाबतीत ही समस्या अधिक सूक्ष्म आहे, कारण ए०आय० केवळ एखादी चुकीची माहिती पुन्हा सांगत नाही; ती तिच्याभोवती अत्यंत प्रभावी युक्तिवादही उभा करू शकते. चुकीचा निष्कर्ष सुंदर भाषेत, वैज्ञानिक शब्दावलीत, आकडेवारीसह आणि आत्मविश्वासाने मांडला गेला की तो अधिक विश्वसनीय वाटतो. त्यानंतर दुसऱ्या ए०आय० ने त्याला दुजोरा दिला आणि तिसऱ्यानेही “उपलब्ध पुरावे याच दिशेने जातात” असे म्हटले की आपल्या मनात एकमताचे वजन वाढत जाते.

पण केवळ मते मोजून सत्य निश्चित करता येत नाही. म्हणून अनेक ए०आय० वापरण्याचा खरा फायदा “एकाच प्रश्नावर किती ए०आय० सहमत आहेत?” यात नसून, “एकाच दाव्याची किती वेगवेगळ्या मार्गांनी कसोटी घेतली गेली?” यात आहे.

इथेच बहु-ए०आय० मंथन  ही कल्पना मनोरंजक बनते. समजा प्रश्न आहे की हृदयविकार होण्याचा धोका कमी करण्यासाठी निरोगी माणसांनी एखादे स्टॅटिनसारखे औषध दीर्घकाळ घ्यावे का? आपण पाच ए०आय० ना हा प्रश्न विचारून त्यांची मते गोळा करू शकतो. पण त्यापेक्षा वेगळा प्रयोग करता येईल. पहिल्या ए०आय० ला सांगायचे, “औषधाच्या बाजूने उपलब्ध असलेला सर्वात मजबूत युक्तिवाद मांड.” दुसऱ्याला सांगायचे, “पहिल्या ए०आय० च्या युक्तिवादातील कमकुवत दुवे शोध. तो कुठे चुकीचा असू शकतो?” तिसऱ्याला वेगळीच जबाबदारी द्यायची, ती म्हणजे “दोन्ही बाजूंचे म्हणणे त्यांच्या सर्वोत्तम स्वरूपात मांड. कोणाचाही कमकुवत पुतळा तयार करून त्याला पाडू नकोस.” चौथ्याने वादात कोण बरोबर आहे याचा विचारच करू नये; त्याचे काम फक्त पुरावे तपासणे. उल्लेख केलेला अभ्यास खरोखर अस्तित्वात आहे का? किती लोकांवर झाला? आकडे बरोबर सांगितले आहेत का? अभ्यासाचा मूळ निष्कर्ष आणि त्याचा ए०आय० ने लावलेला अर्थ खरोखर जुळतात का? आणि शेवटी पाचव्या ए०आय० ने संपूर्ण चर्चा पाहून सांगायचे की काय स्थापित झाले, काय वादग्रस्त राहिले, काय केवळ अनुमान आहे आणि आपल्याला अजून काय माहीत नाही.

आता त्या पाच ए०आय० चे काम एकमेकांची मते मोजणे राहिलेले नाही. त्यांनी एक छोटे बौद्धिक मंडळ तयार के्ले आहे. ही कल्पना तशी नवीनही नाही. समाजाने अशा व्यवस्था शेकडो वर्षांपूर्वी निर्माण केल्या आहेत. न्यायालयाचा विचार करा. एखादा खटला अत्यंत गुंतागुंतीचा असेल तर सर्व कागदपत्रे एका बुद्धिमान व्यक्तीसमोर ठेवून, “तुम्ही निष्पक्ष आहात, सत्य शोधा,” असे आपण म्हणत नाही. एक बाजू आपला युक्तिवाद करते, दुसरी त्याला आव्हान देते, साक्षीदाराची उलटतपासणी होते, पुराव्याला प्रश्न विचारता येतात आणि या संघर्षातून शेवटी निर्णयाकडे जाता येते. ही व्यवस्था तयार करण्यामागे माणसे निष्पक्ष आणि अचूक असतात अशी श्रद्धा नाही. जवळजवळ उलट आहे. माणसे पूर्वग्रहदूषित होऊ शकतात, चुका करू शकतात आणि स्वतःच्या आवडत्या स्पष्टीकरणाच्या प्रेमात पडू शकतात, म्हणूनच एकाची चूक दुसऱ्याला शोधता यावी अशी व्यवस्था आपण तयार केली.

ए०आय० बाबतीतही कदाचित आपल्याला हेच करावे लागेल. आज कृत्रिम बुद्धिमत्तेची चर्चा मुख्यतः “सर्वात बुद्धिमान मॉडेल कोणते?” या प्रश्नाभोवती फिरते. कोणते ए०आय० परीक्षेत जास्त गुण मिळवते, कोणते गणित चांगले सोडवते, कोणते coding चांगले करते, कोणत्या मॉडेलचा benchmark score सर्वाधिक आहे. या स्पर्धेला थोडा फार अर्थ आहे असे म्हणता. पण गुंतागुंतीचे वैज्ञानिक, वैद्यकीय, आर्थिक किंवा धोरणात्मक निर्णय घ्यायचे असतील तर कदाचित भविष्यात अधिक महत्त्वाचा प्रश्न वेगळाच असेल: जगातील सर्वात बुद्धिमान ए०आय० कोणते, यापेक्षा अनेक अपूर्ण ए०आय० अशा प्रकारे एकत्र कसे ठेवायचे की एकाची चूक दुसरा पकडेल?

कारण बुद्धिमत्ता आणि स्वतःच्या चुका ओळखण्याची क्षमता या नेहमी एकच गोष्ट नसतात. एक उत्कृष्ट बुद्धिबळपटूही एखाद्या सुंदर चालीच्या प्रेमात पडू शकतो. अनुभवी खेळाडू म्हणून त्याने शिकलेले महत्त्वाचे कौशल्य म्हणजे स्वतःला विचारणे, “ही चाल चुकीची असेल तर ती चुकीची कशी ठरेल?” त्याच क्षणी तो स्वतःच्या विचाराचा समर्थक राहात नाही; काही क्षणांसाठी तो स्वतःचाच विरोधक बनतो.

बहु-ए०आय० प्रणालीत हे काम दुसऱ्या ए०आय० कडे देता येते. याचा परिणाम किती महत्त्वाचा होऊ शकतो हे औषधाच्या उदाहरणातून दिसते. समजा एका ए०आय० ने सांगितले की एखादे औषध हृदयविकाराचा धोका २५ टक्क्यांनी कमी करते. “२५ टक्के” हा आकडा ऐकला की परिणाम मोठा वाटतो. पण दुसरे ए०आय० विचारते, “२५ टक्के म्हणजे नेमके काय?”

समजा औषध न घेणाऱ्या हजार लोकांपैकी काही वर्षांत ४० लोकांना एखादी हृदयविकाराची घटना झाली असती आणि औषध घेतल्यावर ती संख्या ३० झाली. ४० वरून ३० म्हणजे सापेक्ष धोका २५ टक्क्यांनी कमी झाला. विधान पूर्णपणे खरे आहे. पण हजार लोकांमध्ये प्रत्यक्ष फरक दहा लोकांचा आहे, म्हणजे absolute risk reduction एक टक्का.

आता मजा अशी की “२५ टक्के फायदा” आणि “एक टक्का absolute फायदा” ही दोन्ही वाक्ये एकाच वेळी खरी असू शकतात. प्रश्न कोणता आकडा खरा आहे हा राहिलाच नाही. तेव्हा खरा प्रश्न असा की निर्णय घेताना कोणता आकडा अधिक महत्त्वाचा आहे?

आणि इथे चांगल्या ए०आय० मंथनाची खरी ताकद दिसू लागते. आता ए०आय० केवळ उत्तरावर वाद घालत नाही; तो मूळ प्रश्नाची रचना बदलू शकतो. “औषध काम करते का?” हा प्रश्न हळूहळू “कोणत्या पातळीच्या जोखमीपासून या औषधाचा प्रत्यक्ष फायदा इतका मोठा होतो की अनेक वर्षे उपचार घेणे योग्य ठरते?” असा होतो. वैज्ञानिक पुरावा आपल्याला औषधाचा परिणाम किती आहे हे सांगू शकतो; पण किती लहान फायदा स्वीकारण्याजोगा आहे, किती दुष्परिणाम सहन करण्याजोगे आहेत आणि एखाद्या निरोगी व्यक्तीने किती जोखीम कमी करण्यासाठी आयुष्यभर औषध घ्यावे, या प्रश्नांत विज्ञानाबरोबर मानवी मूल्ये आणि वैयक्तिक पसंतीही येतात.

एखाद्या चर्चाप्रणालीचे हे मोठे यश मानावे लागेल. तिने केवळ उत्तर सुधारले नाही; तिने प्रश्नच अधिक बुद्धिमान केला. समजा एका ए०आय० ने एखाद्या clinical trial मधील methodological त्रुटी शोधली. दुसऱ्या ए०आय० ने त्याचे विश्लेषण वाचले आणि म्हटले, “हो, ही महत्त्वाची समस्या आहे.” तिसऱ्याने दोघांचे म्हणणे वाचले आणि त्याच निष्कर्षाला आणखी विस्तार दिला. चौथ्याने पाहिले की आता तीन ए०आय० त्या मुद्द्यावर सहमत आहेत आणि त्यानेही ते स्वीकारले. शेवटी समन्वयका ने लिहिले खी, “या मुद्द्यावर समूहात व्यापक सहमती आहे.”

बाहेरून पाहताना चार ए०आय० स्वतंत्रपणे एकाच निष्कर्षापर्यंत पोहोचले असे दिसते. प्रत्यक्षात काय झाले? कदाचित एका ए०आय० ने कल्पना निर्माण केली आणि उरलेल्या तिघांनी तिची पुनरावृत्ती केली.

म्हणजे चार स्वतंत्र शोध नव्हते. एक शोध आणि तीन प्रतिध्वनी होते. ही समस्या मानवी समित्यांमध्येही परिचित आहे. एखाद्या बैठकीत वरिष्ठ अधिकारी म्हणतो, “मला वाटते हा प्रकल्प सहा महिन्यांत पूर्ण होऊ शकतो.” दुसरा अधिकारी लगेच म्हणतो, “हो, मलाही वास्तव वाटते.” तिसरा म्हणतो, “टीममध्येही आत्मविश्वास आहे.” काही मिनिटांत खोलीत सहमती तयार होते. पण जर प्रत्येकाला बैठक सुरू होण्यापूर्वी स्वतंत्रपणे अंदाज लिहायला सांगितला असता, तर कदाचित उत्तरे सहा महिने, नऊ महिने, बारा महिने आणि अठरा महिने अशी आली असती.

पहिल्या मताने नंतरची मते बदलली. ए०आय० मध्येही अशीच सामाजिक संसर्गासारखी प्रक्रिया घडू शकते—फरक इतकाच की इथे “समाज” मशीनचा आहे.

म्हणून बहु-ए०आय० प्रणालीत काही ए०आय० ना सुरुवातीला इतरांच्या मतांपासून दूर ठेवणे अत्यंत महत्त्वाचे ठरू शकते. विशेषतः पुरावे तपासणाऱ्या स्रोत परीक्षक (Source Auditor) ला इतरांनी कोणती बाजू घेतली आहे हे आधी माहीत असण्याची गरजच नाही. त्याच्यासमोर फक्त दावे ठेवता येतील: “या चाचणीमध्ये इतके सदस्य होते”; “या उपचारानी ने अंतीम परिणाम इतक्या प्रमाणात कमी केला”; “या उपगटात मध्येही फायदा दिसला”; “या घाताक परीणामांची संख्या इतकी होती.” Auditor ने मूळ स्रोतांकडे जाऊन प्रत्येक दावा स्वतंत्रपणे तपासावा. त्यानंतरच त्याचे निष्कर्ष बाकीच्या चर्चेत आणावेत.

मग जर Challenger आणि Auditor दोघे स्वतंत्रपणे एकाच त्रुटीपर्यंत पोहोचले, तर त्यांचे एकमत खरोखर मौल्यवान ठरते. कारण ते सहमती नसून पुष्टीकरण आहे. हा फरक छोटा वाटतो, पण संपूर्ण बहु-ए०आय० कल्पनेच्या विश्वासार्हतेचा पाया त्यावर उभा राहू शकतो.

आणखी एक समस्या आहे. ए०आय० अत्यंत आत्मविश्वासाने चुकीचे बोलू शकते. मानवी संवादात आपण आत्मविश्वासाला नकळत ज्ञानाचे चिन्ह मानतो. डॉक्टर ठामपणे बोलतो, अर्थतज्ज्ञ आकडे देतो, प्राध्यापक तांत्रिक परिभाषा वापरतो, तेव्हा त्यांचे म्हणणे आपल्याला अधिक विश्वासार्ह वाटते. ए०आय० या मानवी दुर्बलतेचा हेतुपुरस्सर फायदा घेत नाही, पण भाषेवरील त्याचे प्रभुत्व नकळत तोच परिणाम निर्माण करते.

“उपलब्ध पुरावा मिश्र आहे आणि या निष्कर्षाबद्दल मला मध्यम अनिश्चितता आहे,” असे म्हणणारे ए०आय० कमी प्रभावी वाटू शकते. “वैज्ञानिक पुरावे स्पष्टपणे सिद्ध करतात की…” असे म्हणणारे ए०आय० अधिक विद्वान वाटते. पण दुसऱ्या वाक्याचा आत्मविश्वास हा पुरावा नाही. खरे तर प्रगत ए०आय० प्रणालीचे एक महत्त्वाचे वैशिष्ट्य तिची उत्तर देण्याची क्षमता नसून *अनिश्चितता ओळखण्याची क्षमता* असायला हवी. एखाद्या प्रश्नावर उपलब्ध पुरावा कमकुवत असेल तर “मला निश्चित सांगता येत नाही” हे अपयश नाही. उलट, चुकीच्या निश्चिततेपेक्षा ते अधिक बुद्धिमान उत्तर आहे.

मग शेवटी न्यायाधीश किंवा समन्वयकाचा प्रश्न येतो. अनेक ए०आय० वाद घालत असतील तर एखाद्या अंतिम ए०आय० ला सर्व तपशील देऊन “आता तू निर्णय दे” असे करणे साहजिक वाटते. पण त्यातून एक मजेदार प्रश्न निर्माण होतो, तो असा की न्यायाधीशाचा न्याय कोण करणार?

न्यायाधीश  सुद्धा ए०आय० आहे. त्यालाही प्रभावी भाषेचा प्रभाव पडू शकतो. बहुमत त्याला अधिक विश्वसनीय वाटू शकते. एखाद्या अभ्यासाचा संदर्भ खरा असून त्याचा अर्थ चुकीचा लावला आहे हे त्याच्या लक्षात येणार नाही. आणि चार ए०आय० एकाच चुकीची पुनरावृत्ती करत असतील तर “चार विरुद्ध एक” हे त्याला मजबूत पुरावा वाटू शकते.

म्हणून चांगल्या समन्वयकाने फक्त कोण जिंकले हे सांगू नये. त्याने ज्ञानाचा नकाशा तयार केला पाहिजे. या गोष्टी स्वतंत्र पुराव्यांनी पडताळल्या आहेत. या बाबतीत अनेक ए०आय० सहमत आहेत, पण स्वतंत्र तपासणी झालेली नाही. हा उपलब्ध तथ्यांवरून काढलेला ’रास्त निष्कर्ष’ आहे. ही गोष्ट केवळ गृहितक आहे. इथे मतभेद वैज्ञानिक तथ्यांबद्दल नाहीत, तर मूल्यांबद्दल आहेत. आणि या दोन प्रश्नांची उत्तरे अजून उपलब्ध नाहीत.

अशा प्रकारचा निष्कर्ष एखाद्या विजेत्याच्या घोषणेपेक्षा कितीतरी अधिक मौल्यवान आहे. कदाचित म्हणूनच ए०आय० मधील मतभेदांना आपण घाबरू नये. पाच ए०आय० वेगवेगळ्या निष्कर्षांपर्यंत पोहोचली म्हणजे प्रणाली अयशस्वी झाली असे आवश्यक नाही. उलट, उपलब्ध पुराव्यात खरोखर अनिश्चितता असेल तर सर्व ए०आय० चे तात्काळ एकमत अधिक संशयास्पद असू शकते. विज्ञान स्वतः अनेकदा “हो” किंवा “नाही” अशा स्वच्छ उत्तरांत राहत नाही. काही गोष्टी जवळजवळ निश्चित असतात, काही संभाव्य असतात, काहींचे पुरावे परस्परविरोधी असतात आणि काहींबद्दल आपल्याला अजून पुरेसे माहीत नसते. चांगल्या ए०आय० ने या सीमारेषा मिटवू नयेत; त्या अधिक स्पष्ट कराव्यात.

यामुळे कृत्रिम बुद्धिमत्तेच्या भविष्याची एक वेगळीच प्रतिमा समोर येते. आज आपण ए०आय० ची कल्पना एखाद्या अत्यंत बुद्धिमान व्यक्तीसारखी करतो. आपण प्रश्न विचारतो आणि पडद्याच्या दुसऱ्या बाजूला असलेली “बुद्धिमत्ता” उत्तर देते. पण भविष्यातील सर्वाधिक विश्वासार्ह ए०आय० कदाचित एक व्यक्ती नसून एक छोटी संस्था असेल.

त्या संस्थेत एक ए०आय० कल्पना मांडेल. दुसरा तिच्यावर निर्दयपणे किंवा तीक्ष्ण प्रश्न विचारेल. तिसरा विरोधी बाजूचे सर्वोत्तम रूप उभे करेल. चौथा म्हणेल, “तुम्ही दोघे थांबा; आधी ज्या संशोधनावर वाद घालत आहात ते खरोखर काय सांगते ते पाहू.” आणि शेवटचा ए०आय० संपूर्ण प्रक्रियेतून कोण जिंकले यापेक्षा काय शिकायला मिळाले हे सांगेल.

अशा व्यवस्थेची गुणवत्ता तिच्यातील सर्वात बुद्धिमान ए०आय० वर ठरणार नाही. ती तिच्या रचनेवर ठरेल. कोणाला कोणाला आव्हान देता येते, कोण स्वतंत्रपणे पुरावे तपासतो, कोण बहुमताविरुद्ध उभे राहण्याची जबाबदारी घेतो, एकाच स्रोताला पाच स्वतंत्र पुरावे समजले जात नाहीत ना, आणि सर्वात महत्त्वाचे म्हणजे संपूर्ण प्रणालीला “आम्हाला अजून माहीत नाही” असे म्हणण्याची परवानगी आहे का या गोष्टी अधिक महत्त्वाच्या ठरतील.

कृत्रिम बुद्धिमत्तेच्या पहिल्या पर्वात आपण यंत्राला उत्तर द्यायला शिकवले. आता ते कविता लिहू शकते, प्रोग्राम तयार करू शकते, वैद्यकीय साहित्याचा सारांश करू शकते, आर्थिक विश्लेषण करू शकते आणि माणसाशी जवळजवळ नैसर्गिक भाषेत चर्चा करू शकते. पुढचे आव्हान कदाचित आणखी कठीण आहे.

आपल्याला मशीनला केवळ विचार करायला शिकवायचे नाही. *आपल्याला यंत्राला दुसऱ्या मशीनच्या विचारावर संशय घ्यायला शिकवायचे आहे.* आणि म्हणून उद्या एखाद्या महत्त्वाच्या प्रश्नावर पाच ए०आय० एकाच उत्तरावर पोहोचली, तर सर्वात योग्य प्रश्न “पाचपैकी किती ए०आय० सहमत आहेत?” हा नसेल.

खरा प्रश्न असेल की *त्या निष्कर्षापर्यंत पोहोचण्यापूर्वी त्याने किती स्वतंत्र कसोट्या पार केल्या?* कारण शेवटी पाच आवाज सत्य निर्माण करत नाहीत.  *सत्याच्या अधिक जवळ नेते ती त्यामागची तपासणीची प्रक्रिया.*