कृत्रिम प्रद्न्या आणि समुपदेशन - एक सांगड
आज खालील रोचक लेख वाचनात आला.
स्रोत - https://www.technologyreview.com/2021/02/26/1020010/trevor-project-ai-su...
LGBTQ लोकांच्यासाठी अमेरीकेत एक हॉटलाइन आहे. त्या हॉटलाईनचा ज्या प्रकल्पामध्ये अंतर्भाव होतो त्या प्रकल्पाचे नाव आहे 'ट्रेव्हर प्रकल्प.' या हॉटलाईनवरती आत्महत्येस उद्युक्त होणारे टीनेजर्स कॉन्टॅक्ट करु शकतात किंबहुना अशा व्यक्तींना मदत करणे हाच या प्रॉजेक्टचा उद्देश्य आहे. तर या प्रॉजेक्टवरील समुपदेशकांना पहील्यांदा काल्पनिक रोलप्ले मध्ये ट्रेन केले जाते. म्हणजे तुमचा टीम मेंबर, त्या डिप्रेस्ड आणि आत्महत्या करण्यास प्रवृत्त झालेल्या टीनची भूमिका निभावतो. तुम्ही त्या व्यक्तीशी बोलून, समजूतदारपणे, तिच्या अंतरंगात डोकवायचे असते, तिला होइल तितकी मदत करुन, आत्महत्येपासून त्या व्यक्तीस परावृत्त करायचे असते. मग त्यात अनेक बाबींचा अंतर्भाव असतो जसे की या आधी कधी असे आत्महत्येचे विचार मनात आलेले होते का? कधी कोणापुढे त्याने/तिने मन मोकळे केले का? केले असल्यास त्या व्यक्तीची प्रतिक्रिया काय होती? सकारात्मक की नकारात्मक? अशी चाचपणी करुन मग हे ठरवावे लागते की हा टीन, 'हाय रिस्क' कॅटॅगरीत मोडतो की अन्य वगैरे. यामध्ये त्या व्यक्तीवर दबाव तर येत नाही ना हे कटाक्षाने पहावे लागते. दबाव चालत नाही.
होते काय की अमेरीकेत दर वर्षी १.८ मिलिअन तरुण, LGBTQ व्यक्ती आत्महत्येचे विचार करतात. पण ट्रेव्हर प्रॉजेक्टवरती आहेत जवळपास ६०० समुपदेशक. म्हणजे गरज फार मोठी आहे आणि पुरवठा अतिशय तोकडा. तेव्हा आर्टिफिशिअल इन्टेलिजन्स करता इथे खूप स्कोप आहे. म्हणजे जेव्हा समुपदेशकांना ट्रेन केले जाते तेव्हा त्यांच्याबरोबर एखादा चॅटबॉट रोलप्ले करु शकतो. या चॅटबॉटला ज्याला 'रिले' म्हणु यात, आधीच्या अनेक ट्रान्स्क्रिप्टस फीड केलेल्या असतात. या चॅटबॉटचा ट्रान्स्फॉर्मर GPT-2 नावाचा आहे. त्याला ४५ मिलिअन वेब पेजेस फीड करुन भाषेची संरचना, व्याकरण शिकवण्यात आलेले आहे. त्यामुळे 'रिले'ला समुपदेशकाच्या प्रश्नांना तर्कशुद्ध, व्यवहारी उत्तरे देता येतात्. हा जो ए आय पॉवरड ट्रेनिंग रोलप्ले आहे त्याला म्हणतात क्रायसिस कॉन्टॅक्ट सिम्युलेटर. याच्या निर्मीतीत गुगलचा हातभार आहे. कोण व्यक्ती हाय रिस्क कॅटॅगरीत येते याचा अचूक अंदाज या अल्गॉरिदमला आहे. कधीकधी काही केसेसमध्ये तर माणसाच्या अंदाजाहूनही अचूक अंदाज ए आय अल्गोला येतो. हा चॅटबॉट वापरल्याने समुपदेशकांचे ट्रेनिंग वेगाने व अधिक अचूकतेने होइल असा अंदाज आहे.
गेल्या वर्षी झालेल्या, एका संशोधनानुसार, असे आढळून आले आहे की जरी एक प्रौढ व्यक्ती जर LGBTQ टीनला समजून घेत असेल , तिला पाठींबा देत असेल तर त्या टीनच्या आत्महत्येच्या प्रयत्नांचे प्रमाण ४०% नी घटते., परंतु हा चॅटबॉट सध्यातरी समुपदेशकाची जागा घेत नाही. कारण मी ट्रेव्हर हॉटलाईनवरती फोन करते ते खऱ्याखुऱ्या व्यक्तीशी बोलून मनावरच्या ताणाचा निचरा व्हावा म्हणुन. तेव्हा जर चॅटबॉट त्या जागी स्थापित केला तर तो एकप्रकारचा विश्वासघात होइल. पण डाउन द लाईन ही एक शक्यता विचारात घेतली जाणार आहे. सध्यातरी समुपदेशकांच्या ट्रेनिंगकरता फक्त 'रिले' वापरला जातो.
प्रतिक्रिया
काँप्युटर थेरपिस्ट ही कल्पना
काँप्युटर थेरपिस्ट ही कल्पना फार जुनी आहे. ६५ सालच्या आसपास 'एलियझा' नावाचा प्रोग्राम लिहिलेला होता. काही स्टॉक फ्रेझेस, पेशंटने दिलेल्या उत्तरांतले शब्द पुन्हा वापरणं अशा साध्या गोष्टी त्यात होत्या. पण अनेकांना 'या कॉंप्युटरला आपण काय म्हणतोय हे समजतंय' अशी खात्री पटायची. आपण मन मोकळं करतो आणि कोणीतरी ते ऐकून घेतंय ही कल्पना इतकी हवीहवीशी वाटायची की ज्याने तो प्रोग्राम लिहिला त्याची सेक्रेटरी, तिला या प्रोग्राममागची सर्वसाधारण माहिती होती, तीही त्या एलायझाबरोबर बोलत बसायची.
फार कशाला...
...कथा/कविता पाडणारा एक संगणक/प्रोग्राम१सुद्धा अस्तित्वात होता. त्याने पाडलेला पहिलावहिला कथा/कवितासंग्रह येथे उपलब्ध आहे.
(मात्र, प्रस्तुत प्रोग्राम हा जगातील अशा प्रकारचा पहिलावहिला प्रोग्राम नसावा. अशाच प्रकारचा एक प्रोग्राम सोळाव्या-सतराव्या शतकांत (तत्कालीन) बाजारात उपलब्ध होता, असे ऐकून आहे. (चूभूद्याघ्या.))
==========
१ प्रस्तुत प्रतिसादक हा त्या प्रोग्रामची प्रतिसादपाडू आवृत्ती आहे, असे मानण्यास प्रस्तुत प्रतिसादकास प्रत्यवाय नाही.
प्रस्तुत प्रतिसादक हा त्या
नक्की कुठल्या प्रोग्रॅमची? पहिल्या असे गृहित धरतो. दुसऱ्या म्हणणार असाल, तर मग तुमच्या प्रतिसादांचे खंड शाळकरी नि कॉलेजकरी पोट्टयांना अभ्यासक्रमात लावले गेले अशी कल्पना करून अंमळ दचकलो.
इथे तुम्हाला एलायझाशी बोलून
इथे तुम्हाला एलायझाशी बोलून बघता येईल.
धन्यवाद राघा. हा लेख
धन्यवाद राघा. हा लेख वाचल्यानंतर, अन्य संस्थळावर कोणीतरी देखील 'एलायझा' चा उल्लेख केला. मजेशीरच आहे.
अरेरे
हेचि फल काय मम तपाला!
पुन्हा भाषिक प्रारूपंच.
भाषिक प्रारूपांचा हा उपयोग खूपच चांगला आहे. GPT-2 हे भाषेचं प्रारूप आहे. सध्याचं नवीनतम बहुतेक GPT-3 आहे. तो मुद्दा नाही.
मला काळजी अशी वाटली की या भाषिक प्रारूपांना जी विदा, म्हणजे माणसांनी केलेलं लेखन, खिलवली जाते ती दूषित आहे. यात GPT-2सुद्धा आलंच. ही विदा होमोफोबिक आहे, भिन्नलैंगिक, गोऱ्या पुरुषांनी केलेलं लेखन यात मोठ्या प्रमाणावर आहे. यात स्त्रिया, LGBTQ+, गौरेतर लोकांविरोधात कल (बायस) आहे. आणि बरेच मुद्दे जे बेंडर-गेब्रू आणि प्रभृतींनी मांडले आहेत; आणि लोकसत्तामध्ये याच संशोधनावर आधारित लेख लिहिला होता. भाषेचं राजकारण आणि विदाविज्ञान
---
सांगोवांगीच्या गोष्टी म्हणजे विदा नव्हे.
होय याबद्दल धूसर आयडीया आहे.
होय याबद्दल धूसर आयडीया आहे. की डेटा अल्गो देखील बायस्ड असू शकते. लेख परत वाचेन. धन्यवाद
विदा निराळी, अलगोरिदम निराळं.
बेंडर-गेब्रू प्रभृती म्हणतात की मशीन लर्निंग अलगोरिदम काय करत आहे ते धड कुणाला सांगता येत नाही. गूगल-फेसबुकनं केलेली विचित्र भाषांतरं का होतात, वगैरे.
---
सांगोवांगीच्या गोष्टी म्हणजे विदा नव्हे.
तू दिलेल्या मुद्द्यावरुन सर्च
तू दिलेल्या मुद्द्यावरुन सर्च करत करत, आज हा लेख वाचनात आला -
https://www.nytimes.com/2020/06/24/technology/facial-recognition-arrest....
सर्व्हेयलन्स कॅमेऱ्यातून दिसणऱ्या इमेजेस फार धूसर असतात, अल्गोने गडबड केली आणि चुकून एका निरपराध काळ्या माणसाला अटक झाली.
अजुन एक नाविन्यपूर्ण टर्म सापडली - algorithmic accountability act
ज्या कोणा ३ व्यक्तींनी हा कायदा आणण्याचा प्रयत्न केला होता तो 'रिपब्लिकन 'राम-राज्यात' सफळ झाला नाही. पण आता परत ते लोक , डेमोक्रॅटिक सरकार असताना मांडणार आहेत.
बरीच उदाहरणं आहेत.
बेंडर-गेब्रूनं अशी निरनिराळी बरीच उदाहरणं दिलेली आहे. दिवाळी अंकातला लेख मी लिहायला सुरुवात केला होता, तो काळ्या कार्यकर्त्या लोकांनी AIवर घेतलेल्या आक्षेपांबद्दल होता. मग लेखाचा विषय बदलला, ते निराळं.
---
सांगोवांगीच्या गोष्टी म्हणजे विदा नव्हे.