ડઝનેક ટોચના વૈજ્ઞાનિકોએ AI બાયોવેપન્સને રોકવાના પ્રયાસો પર હસ્તાક્ષર કર્યા

હાઇ-પ્રોફાઇલ AI સ્ટાર્ટ-અપ એન્થ્રોપિકના ચીફ એક્ઝિક્યુટિવ ડારિયો અમોડેઇએ ગયા વર્ષે કોંગ્રેસને જણાવ્યું હતું કે નવી AI ટેક્નોલોજી ટૂંક સમયમાં અકુશળ પરંતુ દુષ્ટ લોકોને મદદ કરી શકે છે. મોટા પાયે જૈવિક હુમલાઓ બનાવોજેમ કે વાયરસ અથવા ઝેરી પદાર્થોનું પ્રકાશન જે વ્યાપક રોગ અને મૃત્યુનું કારણ બને છે.

બંને પક્ષોના સેનેટરો સાવધાન થઈ ગયા હતા, જ્યારે ઉદ્યોગ અને શૈક્ષણિક ક્ષેત્રના AI સંશોધકોએ ચર્ચા કરી હતી કે ખતરો કેટલો ગંભીર હોઈ શકે છે.

હવે, 90 થી વધુ જીવવિજ્ઞાનીઓ અને અન્ય વૈજ્ઞાનિકો કે જેઓ નવા પ્રોટીનને ડિઝાઇન કરવા માટે ઉપયોગમાં લેવાતી AI ટેક્નોલોજીમાં નિષ્ણાત છે – માઇક્રોસ્કોપિક મિકેનિઝમ્સ કે જે બાયોલોજીમાં તમામ સર્જનોને ચલાવે છે – કરાર પર હસ્તાક્ષર કર્યા જે એ સુનિશ્ચિત કરવા માંગે છે કે તેમનું AI-સહાયિત સંશોધન વિશ્વને ગંભીર નુકસાન પહોંચાડ્યા વિના આગળ વધશે.

જીવવિજ્ઞાનીઓ, જેમાં નોબેલ પારિતોષિક વિજેતા ફ્રાન્સિસ આર્નોલ્ડનો સમાવેશ થાય છે અને યુનાઇટેડ સ્ટેટ્સ અને અન્ય દેશોમાં પ્રયોગશાળાઓનું પ્રતિનિધિત્વ કરે છે, તેમણે એવી પણ દલીલ કરી હતી કે નવી રસીઓ અને દવાઓ સહિત, નવીનતમ તકનીકો નકારાત્મક કરતાં વધુ ફાયદાકારક હશે.

“વૈજ્ઞાનિકો આ કાર્યમાં રોકાયેલા હોવાથી, અમે માનીએ છીએ કે પ્રોટીન ડિઝાઇન માટે વર્તમાન AI ટેક્નોલોજીના ફાયદા નુકસાનની સંભવિતતા કરતાં ઘણા વધારે છે, અને અમે ખાતરી કરવા માંગીએ છીએ કે અમારું સંશોધન આગળ જતા બધા માટે ફાયદાકારક રહે,” કરાર વાંચે છે.

કરાર એઆઈ ટેક્નોલોજીના વિકાસ અથવા વિતરણને દબાવવાનો પ્રયાસ કરતું નથી. તેના બદલે, જીવવિજ્ઞાનીઓ નવી આનુવંશિક સામગ્રીના ઉત્પાદન માટે જરૂરી સાધનોના ઉપયોગને નિયંત્રિત કરવાનું લક્ષ્ય રાખે છે.

આ ડીએનએ મેન્યુફેક્ચરિંગ ઇક્વિપમેન્ટ આખરે બાયોવેપન્સના વિકાસ માટે પરવાનગી આપે છે, ડેવિડ બેકરે જણાવ્યું હતું કે, યુનિવર્સિટી ઓફ વોશિંગ્ટન ખાતે ઇન્સ્ટિટ્યૂટ ફોર પ્રોટીન ડિઝાઇનના ડિરેક્ટર, જેમણે કરારમાં ભરવામાં મદદ કરી હતી.

“પ્રોટીન ડિઝાઇન એ કૃત્રિમ પ્રોટીન બનાવવાનું પ્રથમ પગલું છે,” તેમણે એક મુલાકાતમાં જણાવ્યું હતું. “ત્યારે તમારે ખરેખર ડીએનએનું સંશ્લેષણ કરવું પડશે અને કમ્પ્યુટરમાંથી ડિઝાઇનને વાસ્તવિક દુનિયામાં ખસેડવી પડશે – અને તે નિયમન કરવા માટે યોગ્ય સ્થાન છે.”

સંભવિત લાભો સામે AI ના જોખમોનું વજન કરવાના ઘણા પ્રયાસોમાંથી એક કરાર છે. જેમ કે કેટલાક નિષ્ણાતો ચેતવણી આપે છે કે AI ટેક્નોલોજીઓ અયોગ્ય માહિતી ફેલાવવામાં મદદ કરી શકે છે, અસામાન્ય દરે નોકરીઓ બદલી શકે છે અને કદાચ માનવતાનો નાશ પણ કરી શકે છે, ટેક કંપનીઓ, શૈક્ષણિક પ્રયોગશાળાઓ, નિયમનકારો અને ધારાશાસ્ત્રીઓ આ જોખમોને સમજવા અને તેને સંબોધવાના માર્ગો શોધવા માટે સંઘર્ષ કરી રહ્યા છે.

ડૉ. એમોડેઈની કંપની, એન્થ્રોપિક, મોટા ભાષાના મોડલ અથવા LLM બનાવે છે, નવી પ્રકારની ટેક્નોલોજી કે જે ઓનલાઈન ચેટબોટ્સ ચલાવે છે. જ્યારે તેમણે કોંગ્રેસ સમક્ષ જુબાની આપી, ત્યારે તેમણે દલીલ કરી કે ટેક્નોલોજી ટૂંક સમયમાં હુમલાખોરોને નવા બાયોવેપન બનાવવામાં મદદ કરી શકે છે.

પરંતુ તેણે સ્વીકાર્યું કે આજે આ શક્ય નથી. એન્થ્રોપિક દ્વારા તાજેતરમાં એ વિગતવાર અભ્યાસ દર્શાવે છે કે જો કોઈ વ્યક્તિ જૈવિક શસ્ત્રો મેળવવા અથવા ડિઝાઇન કરવાનો પ્રયાસ કરી રહી હોય, તો LLM સામાન્ય ઈન્ટરનેટ સર્ચ એન્જિન કરતાં નજીવા વધુ ઉપયોગી હતા.

ડૉ. અમોડેઈ અને અન્ય લોકો ચિંતા કરે છે કે જેમ જેમ કંપનીઓ એલએલએમમાં ​​સુધારો કરશે અને તેને અન્ય ટેક્નોલોજીઓ સાથે જોડશે તેમ ગંભીર ખતરો ઉભો થશે. તેમણે કોંગ્રેસને કહ્યું કે આ માત્ર બે-ત્રણ વર્ષ દૂર છે.

ઓપનએઆઈ, ચેટજીપીટી ઓનલાઈન ચેટબોટના નિર્માતાએ પાછળથી એક સમાન અભ્યાસ હાથ ધર્યો હતો જે દર્શાવે છે કે એલએલએમ સર્ચ એન્જિન કરતાં નોંધપાત્ર રીતે વધુ જોખમી નથી. મેસેચ્યુસેટ્સ ઇન્સ્ટિટ્યૂટ ઑફ ટેક્નોલોજીના કમ્પ્યુટર સાયન્સના પ્રોફેસર અને ઓપનએઆઈના તૈયારીના વડા એલેક્ઝાન્ડર મેડ્રીએ જણાવ્યું હતું કે તેમને આશા હતી કે સંશોધકો આ સિસ્ટમ્સમાં સુધારો કરવાનું ચાલુ રાખશે, પરંતુ તેમણે હજુ સુધી કોઈ પુરાવા જોયા નથી કે તેઓ નવા બાયોવેપન્સ બનાવવા માટે સક્ષમ હશે. .

આજના એલએલએમ સમગ્ર ઈન્ટરનેટમાંથી મેળવેલા મોટા પ્રમાણમાં ડિજિટલ ટેક્સ્ટનું વિશ્લેષણ કરીને બનાવવામાં આવે છે. આનો અર્થ એ છે કે તેઓ જૈવિક હુમલાઓ અંગેની હાલની માહિતી સહિત, ઓનલાઈન પહેલેથી જ ઉપલબ્ધ છે તેને ફરીથી ગોઠવે છે અથવા ફરીથી સંયોજિત કરે છે. (ધ ન્યૂ યોર્ક ટાઈમ્સે ઓપનએઆઈ અને તેના પાર્ટનર, માઈક્રોસોફ્ટ પર આ પ્રક્રિયા દરમિયાન કોપીરાઈટ ઉલ્લંઘનનો આરોપ લગાવીને કેસ કર્યો છે.)

પરંતુ નવી દવાઓ, રસીઓ અને અન્ય ઉપયોગી જૈવિક સામગ્રીના વિકાસને ઝડપી બનાવવાના પ્રયાસમાં, સંશોધકોએ સમાન AI સિસ્ટમ્સ બનાવવાની શરૂઆત કરી છે જે નવી પ્રોટીન ડિઝાઇન જનરેટ કરી શકે છે. જીવવિજ્ઞાનીઓ કહે છે કે આવી ટેક્નોલોજી હુમલાખોરોને જૈવિક શસ્ત્રો ડિઝાઇન કરવામાં પણ મદદ કરી શકે છે, પરંતુ તેઓ નિર્દેશ કરે છે કે વાસ્તવમાં શસ્ત્રો બનાવવા માટે DNA ઉત્પાદન સાધનો સહિત કરોડો ડોલરની પ્રયોગશાળાની જરૂર પડશે.

બિનનફાકારક ફ્યુચર હાઉસના સહ-સ્થાપક અને જીવવિજ્ઞાનીઓમાંના એક એન્ડ્ર્યુ વ્હાઇટે જણાવ્યું હતું કે, “એવું જોખમ છે કે જેના માટે ઇન્ફ્રાસ્ટ્રક્ચરમાં લાખો ડોલરની જરૂર નથી, પરંતુ તે જોખમો થોડા સમયથી છે અને તે AI સાથે સંબંધિત નથી.” જેમણે કરાર પર હસ્તાક્ષર કર્યા.

જીવવિજ્ઞાનીઓએ સુરક્ષા પગલાં વિકસાવવા માટે હાકલ કરી હતી જે DNA ઉત્પાદન સાધનોને હાનિકારક સામગ્રી સાથે ઉપયોગમાં લેવાથી અટકાવશે – જો કે તે અસ્પષ્ટ છે કે તે પગલાં કેવી રીતે કાર્ય કરશે. તેઓએ નવા AI મોડલ્સને રિલીઝ કરતા પહેલા તેની સલામતી અને સુરક્ષા સમીક્ષાઓ માટે પણ જણાવ્યું હતું.

તેઓએ એવી દલીલ કરી ન હતી કે ટેક્નોલોજીઓને બોટલ અપ કરવી જોઈએ.

શિકાગો યુનિવર્સિટીના બાયોકેમિસ્ટ્રી અને મોલેક્યુલર બાયોલોજીના પ્રોફેસર રામા રંગનાથને જણાવ્યું હતું કે, “આ ટેક્નોલોજીઓ માત્ર થોડી સંખ્યામાં લોકો અથવા સંસ્થાઓ દ્વારા જ હોવી જોઈએ નહીં,” જેમણે કરાર પર હસ્તાક્ષર કર્યા હતા. “વૈજ્ઞાનિકોના સમુદાયે તેમને મુક્તપણે અન્વેષણ કરવા અને તેમનામાં યોગદાન આપવા માટે સમર્થ હોવા જોઈએ.”