ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിലെ പക്ഷപാതങ്ങൾ: 1940-കളിലെ ‘ലെൻസിലൂടെ’ ഇന്നും തുടരുന്ന വിവേചനം.

ഡാറ്റ പ്രോസസ്സ് (process) ചെയ്യുമ്പോൾ പാർശ്വവൽക്കരിക്കപ്പെട്ട സമൂഹങ്ങളെ അറിവിന്റെ ലോകത്ത് നിന്ന് മാറ്റിനിർത്തിയ വ്യവസ്ഥാപിത ബഹിഷ്കരണത്തെ അത് കാണുന്നില്ല. ഈ പ്രത്യേക കുടുംബപ്പേരുകളും മിടുക്ക് (brilliance) എന്ന സങ്കൽപ്പവും തമ്മിലുള്ള ഒരു സ്റ്റാറ്റിസ്റ്റിക്കൽ കോറിലേഷൻ (statistical correlation) മാത്രമാണ് അത് കാണുന്നത്.

ബുദ്ധിമാനായ ഒരു ഇന്ത്യൻ ശാസ്ത്രജ്ഞനെക്കുറിച്ചോ സുന്ദരനായ ഒരു നായകനെക്കുറിച്ചോ കഥയെഴുതാൻ ഒരു ഉപയോക്താവ് എഐയോട് ആവശ്യപ്പെടുമ്പോൾ ആ മോഡൽ ഒരു പ്രോബബിലിറ്റി കാൽക്കുലേഷൻ (probability calculation) നടത്തുന്നു. അതിന്റെ ട്രെയിനിംഗ് സെറ്റിൽ (training set) ആ പോസിറ്റീവ് (positive) വിശേഷണങ്ങളുമായി ഏറ്റവും കൂടുതൽ ബന്ധപ്പെട്ടിരിക്കുന്ന പേരുകൾ അത് തിരയുന്നു. വിവരശേഖരങ്ങൾ പ്രബല ജാതികളിലേക്ക് ചായ്‌വുള്ളതായതുകൊണ്ട് എഐ എല്ലായ്പ്പോഴും ഒരു സവർണ്ണ കുടുംബപ്പേരുള്ള കഥാപാത്രത്തെ തന്നെ സൃഷ്ടിക്കുന്നു. ഇത് മെഷീന്റെ (machine) ഒരു സർഗ്ഗാത്മകമായ തെരഞ്ഞെടുപ്പല്ല മറിച്ച് ചരിത്രപരമായ കുത്തകയുടെ ഒരു ഗണിതശാസ്ത്രപരമായ പ്രതിഫലനം മാത്രമാണ്. ഈ പേരുകളെ വിജയത്തിന്റെ മുഖമായി നിരന്തരം അവതരിപ്പിക്കുന്നതിലൂടെ യോഗ്യത എന്നത് ചരിത്രപരമായ അവസരങ്ങളുടെയും പ്രവേശനത്തിന്റെയും ഫലമല്ല മറിച്ച് ചില വംശപരമ്പരകളുടെ സഹജമായ ഗുണമാണെന്ന ദോഷകരമായ മിഥ്യയെ എഐ ശക്തിപ്പെടുത്തുന്നു.

വിജയത്തിന്റെ കുടുംബപ്പേര് എന്ന ഈ അപകടം കേവലം കഥപറച്ചിലിന് അപ്പുറത്തേക്ക് വ്യാപിക്കുന്നു. റെസ്യൂമുകൾ (resumes) ഫിൽട്ടർ (filter) ചെയ്യാനും ലോൺ (loan) അപേക്ഷകൾ വിലയിരുത്താനും എന്തിന് ജുഡീഷ്യൽ വിധിന്യായങ്ങളിൽ സഹായിക്കാൻ പോലും എഐ ഉപയോഗിക്കുന്ന ഒരു യുഗത്തിലേക്കാണ് നമ്മൾ നീങ്ങുന്നത്. ഒരു പ്രത്യേക വ്യവസായ മേഖലയിൽ കഴിഞ്ഞ ഇരുപത് വർഷത്തെ വിജയകരമായ നിയമനങ്ങളെ അടിസ്ഥാനമാക്കിയാണ് ഒരു ഹയറിംഗ് അൽഗോരിതം (hiring algorithm) പരിശീലിപ്പിക്കപ്പെട്ടതെങ്കിൽ ആ വ്യവസായം ചരിത്രപരമായി മുൻഗണന നൽകിയ സാമൂഹിക വിഭാഗങ്ങളെ തന്നെയായിരിക്കും അൽഗോരിതവും തിരഞ്ഞെടുക്കുക. ഒരു പ്രത്യേക കുടുംബപ്പേരുള്ള ഉദ്യോഗാർത്ഥി കൂടുതൽ സുരക്ഷിതനോ (safer) യോഗ്യനോ (qualified) ആണെന്ന് അത് മനസ്സിലാക്കിയേക്കാം. ഇത് ഭൂതകാലത്തിലെ പക്ഷപാതങ്ങൾ ഭാവിയിലെ പക്ഷപാതാതിർവരംബുകളെ ന്യായീകരിക്കാൻ ഉപയോഗിക്കുന്ന ഒരു ഫീഡ്‌ബാക്ക് ലൂപ്പ് (feedback loop) സൃഷ്ടിക്കുന്നു. മെഷീൻ ഒരു ഡിജിറ്റൽ ഗേറ്റ്കീപ്പർ (digital gatekeeper) ആയി മാറുകയും ഗ്ലാസ് സീലിംഗിനെ (glass ceiling) ഓട്ടോമേറ്റ് (automate) ചെയ്യുകയും ചെയ്യുന്നു.

കൂടാതെ നെഗറ്റീവ് (negative) അസോസിയേഷനുകളുടെ (associations) കാര്യത്തിൽ ഈ പക്ഷപാതം വിപരീതമായി പ്രവർത്തിക്കുന്നു. ഈ മോഡലുകളെ പരിശീലിപ്പിക്കാൻ ഉപയോഗിക്കുന്ന ഡാറ്റയിൽ നൂറ്റാണ്ടുകളായുള്ള അപകീർത്തികരമായ സാഹിത്യവും പക്ഷപാതപരമായ വാർത്തകളും ജാതീയമായ സോഷ്യൽ മീഡിയ (social media) സംഭാഷണങ്ങളും അടങ്ങിയിരിക്കുമ്പോൾ എഐ ആ പാറ്റേണുകളും പഠിക്കുന്നു. ആക്ഷേപകരമായ വിശേഷണങ്ങൾ നൽകിയാലോ അല്ലെങ്കിൽ ഒരു വില്ലനെക്കുറിച്ചോ (villain) ഒരു സാധാരണ തൊഴിലാളിയെക്കുറിച്ചോ (menial worker) കഥ ആവശ്യപ്പെട്ടാലോ എഐ പലപ്പോഴും പാർശ്വവൽക്കരിക്കപ്പെട്ട സമൂഹങ്ങളുമായി ബന്ധപ്പെട്ട പേരുകളോ സ്വത്വങ്ങളോ ആണ് നൽകുന്നത്. ഇന്റർനെറ്റ് എന്നത് മനുഷ്യന്റെ ഏറ്റവും നല്ല പെരുമാറ്റങ്ങളും ഏറ്റവും മോശമായ പെരുമാറ്റങ്ങളും അടങ്ങുന്ന ഒരു അരാജകമായ ശേഖരമായതിനാലാണ് ഇത് സംഭവിക്കുന്നത്. ഈ മോഡലുകളിലെ പക്ഷപാതങ്ങൾ മാറ്റാൻ ബോധപൂർവമായ ശ്രമം നടത്തിയില്ലെങ്കിൽ എഐ അത് കാണുന്ന മുൻവിധികളെ തത്തയെപ്പോലെ ആവർത്തിക്കും. പാർശ്വവൽക്കരിക്കപ്പെട്ട ജാതികളെ വിധേയത്വം, കുറ്റവാസന അല്ലെങ്കിൽ ബുദ്ധിശൂന്യത എന്നിവയുമായി അത് ബന്ധിപ്പിക്കുന്നു കാരണം ഭൗതിക ലോകത്ത് തലമുറകളായി അവരെ അടിച്ചമർത്താൻ ഉപയോഗിച്ച രൂപകങ്ങൾ (tropes) ഇവയാണ്.

ഈ ഡാറ്റാ വിടവിന്റെ ലിംഗപരമായ തലം മറ്റൊരു തരം പക്ഷപാതത്തിന് കാരണമാകുന്നു. ഇന്ത്യക്കാരെ സംബന്ധിച്ച മിക്ക എഐ ഔട്ട്‌പുട്ടുകളിലും (outputs) ഡിഫോൾട്ട് വ്യക്തിത്വം സവർണ്ണൻ മാത്രമല്ല മറിച്ച് ഒരു പുരുഷനുമാണ്. പുരുഷാനുഭവങ്ങളെ സാർവത്രികമായ മനുഷ്യാനുഭവമായി കാണുന്ന ആഗോള ഡാറ്റാ പക്ഷപാതത്തിൽ നിന്നാണ് ഇത് ഉടലെടുക്കുന്നത്. ഇന്ത്യൻ പശ്ചാത്തലത്തിൽ ജാതിയുടെയും ലിംഗത്തിന്റെയും ഈ സമാഗമം ഡിജിറ്റൽ ട്രെയിനിംഗ് സെറ്റുകളിൽ നിന്ന് ദളിത് അല്ലെങ്കിൽ ആദിവാസി സ്ത്രീകളുടെ ശബ്ദങ്ങൾ ഏതാണ്ട് പൂർണ്ണമായും അപ്രത്യക്ഷമാകാൻ കാരണമാകുന്നു. ഒരു സ്ത്രീയെ ഇന്ത്യക്കാരനായി ഡിഫോൾട്ട് ആയി സങ്കൽപ്പിക്കാൻ പോലും എഐക്ക് കഴിയില്ലെങ്കിൽ ജാതി ശ്രേണിയുടെ ഏറ്റവും താഴെയുള്ള ഒരു സ്ത്രീയുടെ സവിശേഷമായ പോരാട്ടങ്ങളെയും വിജയങ്ങളെയും തിരിച്ചറിയാൻ അതിന് തീർച്ചയായും കഴിയില്ല. വംശം, ജാതി, ലിംഗം എന്നിവയിലൂടെയുള്ള ഈ മുമ്മടങ്ങ് മായ്ക്കൽ (triple erasure) എഐ ആഘോഷിക്കുന്ന മിടുക്ക് എന്നത് മനുഷ്യത്വത്തിന്റെ വളരെ ഇടുങ്ങിയതും സവിശേഷവുമായ ഒരു പതിപ്പാണെന്ന് ഉറപ്പാക്കുന്നു.

എഐ പരിശീലനത്തിലെ ഇംഗ്ലീഷ് ഭാഷാ ആധിപത്യത്തിന്റെ പങ്കും നമ്മൾ പരിഗണിക്കേണ്ടതുണ്ട്. മികച്ച പ്രകടനം കാഴ്ചവെക്കുന്ന മിക്ക മോഡലുകളും പ്രധാനമായും ഇംഗ്ലീഷ് ഡാറ്റയിലാണ് പരിശീലിപ്പിക്കപ്പെടുന്നത്. ഇന്ത്യയിൽ ഇംഗ്ലീഷ് പരിജ്ഞാനം പലപ്പോഴും ക്ലാസ് (class), ജാതി എന്നിവയുമായി ബന്ധപ്പെട്ട പ്രത്യേകാവകാശമാണ്. ഇംഗ്ലീഷിലുള്ള സാഹിത്യങ്ങളും ബ്ലോഗുകളും (blogs) സോഷ്യൽ മീഡിയ പോസ്റ്റുകളും (posts) ജനസംഖ്യയുടെ ഒരു ചെറിയ വിഭാഗത്തെ മാത്രമാണ് പ്രതിനിധീകരിക്കുന്നത് അത് പലപ്പോഴും ഉയർന്ന സാമൂഹിക മൂലധനമുള്ളവരാണ്. ഈ ഡാറ്റയ്ക്ക് മുൻഗണന നൽകുന്നതിലൂടെ എഐ കമ്പനികൾ യഥാർത്ഥത്തിൽ ഇന്ത്യൻ വരേണ്യവർഗത്തിന്റെ ലോകവീക്ഷണത്തെ പ്രതിനിധീകരിക്കുന്ന മോഡലുകളാണ് നിർമ്മിക്കുന്നത്. പാർശ്വവൽക്കരിക്കപ്പെട്ട സമൂഹങ്ങളുടെ സമ്പന്നമായ വാമൊഴി പാരമ്പര്യങ്ങളും പ്രാദേശിക സാഹിത്യങ്ങളും താഴെത്തട്ടിലുള്ള പ്രസ്ഥാനങ്ങളും എഐ ഇഷ്ടപ്പെടുന്ന സ്റ്റാൻഡേർഡ് (standard) രൂപങ്ങളിൽ നിലവിലില്ലാത്തതിനാൽ അവ ഒഴിവാക്കപ്പെടുന്നു. ഇത് ഭൗതിക ലോകത്തേക്കാൾ ഏകശിലാത്മകവും ബഹിഷ്കരണപരവുമായ ഒരു ഡിജിറ്റൽ ലോകത്തിന് കാരണമാകുന്നു.

എഐയോട് നീതി പുലർത്താൻ (be fair) ആവശ്യപ്പെടുന്നത് പോലെ ലളിതമല്ല ഇതിനുള്ള പരിഹാരം. അടിസ്ഥാന ഡാറ്റ തന്നെ അന്തർലീനമായി അന്യായമായിരിക്കുമ്പോൾ ഗണിതശാസ്ത്രപരമായ അർത്ഥത്തിൽ നീതി കൈവരിക്കുക പ്രയാസമാണ്. ഡിജിറ്റൽ യോഗ്യതയുടെ ഈ ഘടനയെ തകർക്കണമെങ്കിൽ ഈ മോഡലുകൾ എങ്ങനെ നിർമ്മിക്കപ്പെടുന്നു എന്നതിൽ നമ്മൾ സജീവമായി ഇടപെടണം. പാർശ്വവൽക്കരിക്കപ്പെട്ടവരുടെ ചരിത്രങ്ങളും കാഴ്ചപ്പാടുകളും ഉൾപ്പെടുത്തി ഡാറ്റാസെറ്റുകളെ വൈവിധ്യവൽക്കരിക്കേണ്ടത് ആവശ്യമാണ്. ജാതി പോലുള്ള സാമൂഹിക ശ്രേണികളുടെ സൂക്ഷ്മതകൾ മനസ്സിലാക്കുന്ന ഗവേഷകരെ നിയമിക്കാൻ ടെക് (tech) കമ്പനികൾ തയ്യാറാകണം അല്ലാതെ പക്ഷപാതത്തെ (bias) സാമാന്യമായ ഒരു പ്രശ്നമായി കണ്ട് എല്ലാവർക്കും യോജിക്കുന്ന ഒരൊറ്റ പരിഹാരം തേടുകയല്ല വേണ്ടത്.

എഐയെ ഒരു വസ്തുനിഷ്ഠമായ അധികാരിയായി കാണുന്നിടത്തോളം കാലം ഭൂതകാലത്തിന്റെ മുൻവിധികളെ സാധൂകരിക്കാനും ഉറപ്പിക്കാനും നമ്മൾ അതിനെ അനുവദിക്കുകയാണ് ചെയ്യുന്നത്. ഈ യന്ത്രങ്ങൾ നൽകുന്ന വിജയത്തിന്റെ കുടുംബപ്പേരുകൾ ഒരു പ്രകൃതിനിയമത്തിന്റെ തെളിവല്ല മറിച്ച് കെട്ടിച്ചമച്ച ഒരു ചരിത്രശേഖരത്തിന്റെ തെളിവാണ്. യഥാർത്ഥത്തിൽ ബുദ്ധിപരമായ ഒരു ഭാവി നിർമ്മിക്കുന്നതിന് ആയിരക്കണക്കിന് വർഷം പഴക്കമുള്ളതും ആഴത്തിൽ തകർന്നതുമായ ഒരു ലെൻസിലൂടെയാണ് നമ്മുടെ യന്ത്രങ്ങൾ ലോകത്തെ കാണാൻ പഠിപ്പിക്കപ്പെടുന്നത് എന്ന യാഥാർത്ഥ്യത്തെ നമ്മൾ ആദ്യം അഭിമുഖീകരിക്കണം. സാമൂഹിക ശ്രേണിയിൽ ഏത് സ്ഥാനത്താണെങ്കിലും എല്ലാ പേരുകളിലുമുള്ള മിടുക്കിനെ തിരിച്ചറിയുന്ന ഒരു സാങ്കേതികവിദ്യയാണ് നമ്മൾ ആവശ്യപ്പെടേണ്ടത്.

ഇൻക്ലൂഷനിലെ ലാഭം: വിപണിയും നിർബന്ധിത മാറ്റങ്ങളും പുരോഗതിയിലെ ചതിക്കുഴികളും.

കൊഡാക് ഷെർലി കാർഡിന്റെ (Kodak Shirley card) ചരിത്രം ഒരു മുതലാളിത്ത സമൂഹത്തിൽ സാങ്കേതിക പുരോഗതി എങ്ങനെ പ്രവർത്തിക്കുന്നു എന്നതിനെക്കുറിച്ചുള്ള ഭയപ്പെടുത്തുന്ന ചില സത്യങ്ങൾ വെളിപ്പെടുത്തുന്നുണ്ട്. ചലച്ചിത്ര വ്യവസായം അതിന്റെ കെമിക്കൽ കാലിബ്രേഷനുകളിൽ (chemical calibrations) ഇരുണ്ട ചർമ്മനിറങ്ങളെ ഉൾപ്പെടുത്തിയപ്പോൾ അത് ഒരു നൈതികമായ ഉണർവോ അല്ലെങ്കിൽ വെളുത്തവരല്ലാത്തവരുടെ സ്വത്വങ്ങൾ മായ്ക്കപ്പെടുന്നതിനെതിരെയുള്ള പ്രതികരണമോ ആയിരുന്നില്ല. പകരം അത് വെറും വാണിജ്യപരമായ ആവശ്യങ്ങൾക്കായുള്ള ഒരു തന്ത്രപരമായ നീക്കമായിരുന്നു. സാങ്കേതികവിദ്യയുടെ പരിമിതികൾ ചോക്ലേറ്റുകളും ഫർണിച്ചറുകളും വിൽക്കാനുള്ള കോർപ്പറേറ്റുകളുടെ (corporations) കഴിവിനെ തടസ്സപ്പെടുത്താൻ തുടങ്ങിയപ്പോഴാണ് ഈ മാറ്റം സംഭവിച്ചത്. ആധുനിക ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (Artificial Intelligence) കമ്പനികൾ പക്ഷപാതപരമായ പ്രശ്നങ്ങളെ എങ്ങനെ സമീപിക്കുന്നു എന്നതിലേക്കുള്ള ഒരു സൂചനയായി ഈ ചരിത്രപരമായ മാറ്റം മാറുന്നു. പലപ്പോഴും എഐ മോഡലുകളിൽ (AI models) വരുത്തുന്ന മാറ്റങ്ങൾ സാമൂഹിക നീതി കൈവരിക്കാനല്ല മറിച്ച് ആ ഉൽപ്പന്നം വിപണിക്ക് അനുയോജ്യമാണെന്നും നിയമപരമായി സുരക്ഷിതമാണെന്നും ഉറപ്പാക്കാനാണ്.

നിലവിലെ ജനറേറ്റീവ് എഐയുടെ (Generative AI) സാഹചര്യത്തിൽ സമാനമായ ഒരു രീതി നമ്മൾ കാണുന്നുണ്ട്. വലിയ സാങ്കേതിക കമ്പനികൾ പലപ്പോഴും സേഫ്റ്റി ഫിൽട്ടറുകൾ (safety filters) അല്ലെങ്കിൽ അലൈൻമെന്റ് ലെയറുകൾ (alignment layers) ഏർപ്പെടുത്തുന്നത് ഒരു വലിയ പൊതുജനവിമർശനമോ അല്ലെങ്കിൽ ഉപയോക്താക്കളുടെ കുറവോ ഉണ്ടാകുമ്പോൾ മാത്രമാണ്. ഉദാഹരണത്തിന് ഒരു എഐ ഉപകരണം വംശീയമായ ഒരു ചിത്രമോ അല്ലെങ്കിൽ ജാതീയമായ അധിക്ഷേപമോ സൃഷ്ടിച്ചാൽ കമ്പനികൾ ഉടൻ തന്നെ ആ മോഡലിൽ മാറ്റം വരുത്തുന്നു. എന്നാൽ ഈ മാറ്റങ്ങൾ പലപ്പോഴും ഉപരിപ്ലവമാണ്. ട്രെയിനിംഗ് ഡാറ്റയിലെ (training data) അടിസ്ഥാനപരമായ പക്ഷപാതങ്ങളെ അവ പരിഹരിക്കുന്നില്ല മറിച്ച് പുറമെ കാണുന്ന ലക്ഷണങ്ങളെ മറച്ചുപിടിക്കുക മാത്രമാണ് ചെയ്യുന്നത്. ചോക്ലേറ്റിന് വേണ്ടി ഫിലിം പരിഷ്കരിച്ചതിന്റെ ആധുനിക പതിപ്പാണിത്. മനുഷ്യന്റെ അന്തസ്സിനെ പൂർണ്ണമായി ഉൾക്കൊള്ളുന്ന രീതിയിൽ വ്യവസ്ഥയെ പുനഃക്രമീകരിക്കുന്നതിന് പകരം വിവാദങ്ങൾ ഒഴിവാക്കാൻ പാകത്തിൽ ഔട്ട്‌പുട്ട് (output) മാറ്റുക എന്നതാണ് ഇതിന്റെ ലക്ഷ്യം.

വൈവിധ്യത്തോടുള്ള വിപണി കേന്ദ്രീകൃതമായ ഈ സമീപനം അർഹരായ സ്വത്വങ്ങളുടെ (worthy identities) അപകടകരമായ ഒരു ശ്രേണി സൃഷ്ടിക്കുന്നു. ആഗോളതലത്തിൽ എഐ വികസനം കേന്ദ്രീകരിച്ചിരിക്കുന്നത് സമ്പന്നമായ പാശ്ചാത്യ രാജ്യങ്ങളിലായതുകൊണ്ട് അവരുടെ വിപണിയെ ബാധിക്കുന്ന പക്ഷപാതങ്ങൾ മാത്രമാണ് ശ്രദ്ധിക്കപ്പെടുന്നത്. പാശ്ചാത്യ പശ്ചാത്തലത്തിലുള്ള വംശീയതയും ലിംഗവിവേചനവും ചർച്ച ചെയ്യപ്പെടുകയും പരിഹരിക്കപ്പെടുകയും ചെയ്യുന്നു. എന്നാൽ ഇന്ത്യൻ ജാതി വ്യവസ്ഥ പോലുള്ള സങ്കീർണ്ണമായ പ്രാദേശിക അടിച്ചമർത്തലുകൾ ആഗോള വിപണിയിൽ ഒരു മുൻഗണനയല്ലാത്തതുകൊണ്ട് പലപ്പോഴും അവഗണിക്കപ്പെടുന്നു. ഒരു എഐ സൃഷ്ടിക്കുന്ന കഥയിൽ ഒബിസി (OBC), എസ്‌സി (SC) അല്ലെങ്കിൽ എസ്ടി (ST) വിഭാഗങ്ങളിൽപ്പെട്ടവരുടെ കുടുംബപ്പേരുകൾ അധികാരസ്ഥാനങ്ങളിൽ നിന്ന് ഒഴിവാക്കപ്പെട്ടാൽ അത് വികസിപ്പിച്ചവർ അതൊരു പരാജയമായി (failure) കണക്കാക്കാറില്ല കാരണം വിജയത്തിന്റെ മാനദണ്ഡങ്ങൾ നിശ്ചയിച്ചിരിക്കുന്നത് പാശ്ചാത്യ അല്ലെങ്കിൽ ഇന്ത്യൻ വരേണ്യവർഗത്തിന് അനുയോജ്യമായ രീതിയിലാണ്.

കൂടാതെ എഐയുടെ വാണിജ്യവൽക്കരണം സംസ്കാരങ്ങളുടെ വൈവിധ്യം ഇല്ലാതാകുന്നതിനും (flattening of culture) കാരണമായിട്ടുണ്ട്. ഈ ഉപകരണങ്ങളെ സാർവത്രികമായി ഉപയോഗിക്കാനും ലാഭകരമാക്കാനും വേണ്ടി പ്രാദേശിക ചരിത്രങ്ങളുടെയും സാമൂഹിക പോരാട്ടങ്ങളുടെയും സൂക്ഷ്മതകളെ ഡെവലപ്പർമാർ (developers) പലപ്പോഴും ഒഴിവാക്കുന്നു. ഇത് വെറും കാഴ്ചയിൽ മാത്രമുള്ള ഒരു ഉൾപ്പെടുത്തലായി (inclusion) മാറുന്നു. എഐ സൃഷ്ടിക്കുന്ന ചിത്രങ്ങളിൽ തവിട്ടുനിറമുള്ള മുഖങ്ങൾ കണ്ടേക്കാം എന്നാൽ അവയ്ക്ക് പിന്നിലെ സാമൂഹിക അവസ്ഥകൾ മാറ്റമില്ലാതെ തുടരുന്നു. ഒരു ഇന്ത്യൻ സ്ത്രീയുടെ ചിത്രം നൽകാൻ ആവശ്യപ്പെട്ടാൽ അത് മിക്കവാറും വെളുത്ത ചർമ്മമുള്ള ഒരു സവർണ്ണ സ്ത്രീയുടെ ചിത്രമായിരിക്കും നൽകുക കാരണം അതാണ് ആഗോള പരസ്യ വിപണിയിൽ കൂടുതൽ വിൽക്കപ്പെടുന്നത്. ലോകത്തിലെ തേക്ക് മരങ്ങളിലും മഹാഗണിയിലും മാത്രം ശ്രദ്ധ കേന്ദ്രീകരിച്ച കൊഡാക്കിനെപ്പോലെ എഐ കമ്പനികളും നിലവിലുള്ള അധികാര ഘടനകളെ ചോദ്യം ചെയ്യാത്ത വരേണ്യവർഗത്തിന്റേതായ വൈവിധ്യത്തിലാണ് ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നത്.

ഏതൊക്കെ ഡാറ്റയാണ് (data) പരിശീലനത്തിന് ഉപയോഗിക്കേണ്ടതെന്ന് തീരുമാനിക്കുന്നതും ലാഭലക്ഷ്യങ്ങളാണ്. വൃത്തിയുള്ളതും ഡിജിറ്റലൈസ് (digitalize) ചെയ്തതും ക്രമീകരിച്ചതുമായ ഡാറ്റ മെഷീനുകൾക്ക് കൈകാര്യം ചെയ്യാൻ എളുപ്പമാണ്. ഇത്തരം ഡാറ്റകൾ മിക്കവാറും സാമൂഹികമായും സാമ്പത്തികമായും മുന്നോക്കം നിൽക്കുന്നവരാൽ നിർമ്മിക്കപ്പെട്ടവയാണ്. ആദിവാസി സമൂഹങ്ങളുടെ വാമൊഴി ചരിത്രങ്ങൾ, ദളിത് പ്രവർത്തകരുടെ പ്രതിഷേധ ഗാനങ്ങൾ, പാർശ്വവൽക്കരിക്കപ്പെട്ടവരുടെ ജീവിതാനുഭവങ്ങൾ എന്നിവ ലാഭലക്ഷ്യമുള്ള അൽഗോരിതങ്ങൾക്ക് (algorithms) കൈകാര്യം ചെയ്യാൻ പ്രയാസമുള്ള നോയ്സി (noisy) ഡാറ്റയായാണ് കണക്കാക്കപ്പെടുന്നത്. തൽഫലമായി പ്രബല വിഭാഗങ്ങളുടെ മിനുക്കിയെടുത്ത വിവരണങ്ങൾക്ക് എഐ മുൻഗണന നൽകുന്നു. പാർശ്വവൽക്കരിക്കപ്പെട്ടവരുടെ ലാഭകരമല്ലാത്ത ഡാറ്റയെ അവഗണിക്കുന്നതിലൂടെ പോരാട്ടത്തിന്റെ ചരിത്രങ്ങളും വിവേചനത്തിന്റെ യാഥാർത്ഥ്യങ്ങളും വെറും പിശകുകളായി (errors) മാറ്റപ്പെടുന്ന ഒരു ഡിജിറ്റൽ ലോകമാണ് എഐ കമ്പനികൾ കെട്ടിപ്പടുക്കുന്നത്.

ഇത് 1970 കളിലെ വാണിജ്യ യുക്തിയെ പിന്തുടരുന്ന അൽruഗോരിതമിക് പ്രൊഫൈലിംഗ് (algorithmic profiling) എന്ന ഒരു പ്രതിഭാസമുണ്ട്. ചില വിഭാഗങ്ങൾ ഉപഭോക്താക്കളെന്ന നിലയിൽ ലാഭകരമല്ലെന്നോ അല്ലെങ്കിൽ പക്ഷപാതപരമായ ചരിത്ര ഡാറ്റ പ്രകാരം അവർ വിജയിക്കാൻ സാധ്യത കുറവാണെന്നോ എഐ തീരുമാനിച്ചാൽ ആ ധാരണകൾ അതിന്റെ ഫലങ്ങളിലും പ്രതിഫലിക്കും. ടാർഗെറ്റഡ് അഡ്വെർട്ടൈസിംഗ് (targeted advertising), ക്രെഡിറ്റ് സ്കോറിംഗ് (credit scoring), പ്രെഡിക്റ്റീവ് പോലീസിംഗ് (predictive policing) എന്നിവയിൽ ഇത് പ്രകടമാണ്. പഴയ മുൻവിധികളിൽ നിന്ന് ആളുകളെ മോചിപ്പിക്കാനല്ല മറിച്ച് വിപണിക്ക് വേണ്ടി അവരെ കൂടുതൽ കാര്യക്ഷമമായി തരംതിരിക്കാനാണ് സാങ്കേതികവിദ്യ ഉപയോഗിക്കുന്നത്. പാർശ്വവൽക്കരിക്കപ്പെട്ട ഒരു ജാതി സ്വത്വം എഐയുടെ മറുപടിയിൽ നെഗറ്റീവ് സ്വഭാവങ്ങളുമായി ബന്ധിപ്പിക്കപ്പെടുമ്പോൾ അത് ഡാറ്റയുടെ സത്യത്തേക്കാൾ ഉപരിയായി അധികാരത്തിന് വേണ്ടിയുള്ള അതിന്റെ ഉപയോഗത്തെയാണ് കാണിക്കുന്നത്.

സാങ്കേതിക വികസനത്തിന്റെ ഈ ചോക്ലേറ്റ് ആൻഡ് ഫർണിച്ചർ (chocolate and furniture) ഘട്ടത്തിൽ നിന്ന് മുന്നോട്ട് പോകണമെങ്കിൽ എഐ എത്തിക്സ് (AI ethics) കമ്പനികളുടെ പിആർ (PR) തന്ത്രങ്ങളിൽ നിന്ന് വേർപെടുത്തണമെന്ന് നമ്മൾ ആവശ്യപ്പെടണം. ലാഭകരമല്ലാത്തപ്പോൾ പോലും ഉൾപ്പെടുത്തലിനോടുള്ള (inclusion) പ്രതിബദ്ധത യഥാർത്ഥ പുരോഗതിക്ക് ആവശ്യമാണ്. ചരിത്രപരമായ മോഷണങ്ങളുടെയും ബഹിഷ്കരണങ്ങളുടെയും അടിത്തറയിൽ കെട്ടിപ്പടുത്ത ഒരു അൽഗോരിതം ഒരിക്കലും നിഷ്പക്ഷമല്ലെന്ന് നമ്മൾ അംഗീകരിക്കണം. നമ്മുടെ ഡിജിറ്റൽ ഉപകരണങ്ങളുടെ കാലിബ്രേഷൻ (calibration) വിപണിശക്തികൾക്ക് വിട്ടുകൊടുത്താൽ പഴയ വിവേചനങ്ങളുടെ തന്നെ ഒരു ഹൈ ഡെഫിനിഷൻ (high definition) പതിപ്പാണ് നമുക്ക് ലഭിക്കുക. ഇടപാടുകൾക്ക് ഉപകരിക്കുമ്പോൾ മാത്രം നമ്മെ കാണുന്ന ഒരു സാങ്കേതികവിദ്യയ്ക്ക് പകരം നമ്മൾ മനുഷ്യരായതുകൊണ്ട് നമ്മെ കാണുന്ന ഒരു സാങ്കേതികവിദ്യക്കായി നമ്മൾ പരിശ്രമിക്കണം.

അദൃശ്യമാക്കപ്പെടുന്ന സ്വത്വങ്ങൾ: ലിംഗപരവും ഭൂമിശാസ്ത്രപരവുമായ വിവേചനങ്ങളുടെ ആഴങ്ങൾ.

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിന്റെ ആഴത്തിലുള്ള പക്ഷപാതങ്ങളെക്കുറിച്ച് നമ്മൾ പരിശോധിക്കുമ്പോൾ പലപ്പോഴും വിവേചനത്തിന്റെ വിവിധ രൂപങ്ങളെ ഒറ്റപ്പെട്ട സംഭവങ്ങളായാണ് കാണാറുള്ളത്. ഒരു നിമിഷം വംശീയതയെക്കുറിച്ചും (racism) അടുത്ത നിമിഷം ലിംഗവിവേചനത്തെക്കുറിച്ചും (sexism) നമ്മൾ സംസാരിക്കുന്നു. പലപ്പോഴും ജാതീയതയെ (casteism) ഒരു പ്രാദേശികമായ പ്രതിഭാസമായി മാത്രമാണ് കണക്കാക്കുന്നത്. എന്നിരുന്നാലും ആധുനിക അൽഗോരിതങ്ങളുടെ (algorithms) യഥാർത്ഥ പരാജയം ഇന്റർസെക്ഷനാലിറ്റി (intersectionality) അഥവാ വിവേചനങ്ങളുടെ വിവിധ തലങ്ങളെ തിരിച്ചറിയാനുള്ള അവയുടെ അപ്രാപ്തിയിലാണ്. ഡാറ്റയുടെ ലോകത്ത് സ്വത്വം എന്നത് ഒരൊറ്റ പാളിയല്ല മറിച്ച് അത് ചരിത്രങ്ങളുടെ സങ്കീർണ്ണമായ ഒരു വലക്കണ്ണിയാണ്. ഒരു എഐ മോഡൽ (AI model) പാർശ്വവൽക്കരിക്കപ്പെട്ട ഒരാളെ പ്രതിനിധീകരിക്കുന്നതിൽ പരാജയപ്പെടുമ്പോൾ അതിനർത്ഥം ആ വ്യക്തി ഒന്നിലധികം ഡാറ്റാ വിടവുകളുടെ (data gaps) ഇടയിലാണ് ജീവിക്കുന്നത് എന്നാണ്. ഇത് സൃഷ്ടിക്കുന്ന ഘടനാപരമായ മാറ്റിനിർത്തലുകൾ ഗ്ലോബൽ സൗത്തിലെ (Global South) പാർശ്വവൽക്കരിക്കപ്പെട്ട ജാതികളിൽ നിന്നും സമൂഹങ്ങളിൽ നിന്നുമുള്ള സ്ത്രീകളെ സംബന്ധിച്ചിടത്തോളം അങ്ങേയറ്റം വിനാശകരമാണ്. മനുഷ്യാനുഭവങ്ങളെ വളരെ ഇടുങ്ങിയ രീതിയിൽ നിർവ്വചിക്കുന്നതിലൂടെ എഐ ഈ വ്യക്തികളെ അവഗണിക്കുക മാത്രമല്ല മറിച്ച് ഡിജിറ്റൽ ഭാവിയിൽ നിന്ന് അവരെ നീക്കം ചെയ്യുക കൂടിയാണ് ചെയ്യുന്നത്.

ഈ മായ്ക്കലിന്റെ ഏറ്റവും പ്രകടമായ ഉദാഹരണം മിക്ക ജനറേറ്റീവ് മോഡലുകളും (generative models) പിന്തുടരുന്ന പുരുഷ കേന്ദ്രീകൃതമായ ഡിഫോൾട്ട് (male-by-default) രീതിയാണ്. ഒരു ഇന്ത്യൻ നേതാവിനെക്കുറിച്ചോ കർഷകനെക്കുറിച്ചോ അല്ലെങ്കിൽ മിടുക്കനായ ഒരു ശാസ്ത്രജ്ഞനെക്കുറിച്ചോ ഒരു കഥ പറയാൻ നിങ്ങൾ എഐയോട് ആവശ്യപ്പെട്ടാൽ മിക്കവാറും അതൊരു പുരുഷ കഥാപാത്രത്തെയാണ് അവതരിപ്പിക്കുക. ചരിത്രപരമായി പുരുഷ വിവരണങ്ങൾക്ക് മുൻഗണന നൽകിയ ഒരു ആഗോള ശേഖരത്തിന്റെ നേരിട്ടുള്ള ഫലമാണിത്. നൂറ്റാണ്ടുകളായി പൊതുമണ്ഡലം, ശാസ്ത്രീയ രേഖകൾ, സാഹിത്യ ലോകം എന്നിവ പുരുഷന്മാരാൽ നിയന്ത്രിക്കപ്പെട്ടിരുന്നു. ഒരു നേതാവ് എങ്ങനെയുണ്ടാകുമെന്ന് പഠിക്കാൻ എഐ ഇന്റർനെറ്റ് പരിശോധിക്കുമ്പോൾ പുരുഷന്മാരുടെ പേരുകളുടെയും ചിത്രങ്ങളുടെയും വലിയൊരു കൂമ്പാരമാണ് അത് കണ്ടെത്തുന്നത്. ഇത് നേതൃത്വം എന്നത് ഒരു പുരുഷ ഗുണമാണെന്ന് മെഷീൻ (machine) നിഗമനത്തിലെത്തുന്ന ഒരു ഫീഡ്‌ബാക്ക് ലൂപ്പ് (feedback loop) സൃഷ്ടിക്കുന്നു. ഉപയോക്താവ് ബോധപൂർവ്വം സ്ത്രീ (female) എന്ന വാക്ക് നൽകിയില്ലെങ്കിൽ സ്ത്രീകൾക്ക് രണ്ടാം സ്ഥാനമുള്ള അല്ലെങ്കിൽ അവർ പൂർണ്ണമായും ഇല്ലാത്ത ഒരു ലോകത്തെയാകും എഐ പ്രതിഫലിപ്പിക്കുക.

ലിംഗപരമായ ഈ പക്ഷപാതത്തിലേക്ക് ജാതി കൂടി ചേരുമ്പോൾ പ്രശ്നം കൂടുതൽ സങ്കീർണ്ണമാകുന്നു. ഒരു ഇന്ത്യൻ സ്ത്രീയെ നായികയായി സങ്കൽപ്പിക്കാൻ പ്രയാസപ്പെടുന്ന എഐ ഒരു ദളിത് അല്ലെങ്കിൽ ആദിവാസി സ്ത്രീയെ ആ സ്ഥാനത്ത് കാണാൻ ഒട്ടും സാധ്യതയില്ല. ഈ സ്ത്രീകൾ മുമ്മടങ്ങ് പാർശ്വവൽക്കരണമാണ് (triple marginalization) നേരിടുന്നത്. പാശ്ചാത്യ ഡാറ്റയോടുള്ള ആഗോള മുൻഗണന, പുരുഷ വിവരണങ്ങളോടുള്ള താൽപ്പര്യം, ഇന്ത്യൻ സാഹചര്യത്തിലെ സവർണ്ണ സ്വത്വങ്ങളോടുള്ള മുൻഗണന എന്നിവയാൽ അവർ പുറന്തള്ളപ്പെടുന്നു. അപൂർവ്വമായി ഒരു ഇന്ത്യൻ സ്ത്രീയെക്കുറിച്ച് എഐ കഥകൾ സൃഷ്ടിക്കുമ്പോൾ പോലും അവൾ ഒരു പ്രത്യേക കാഴ്ചപ്പാടിലൂടെയാണ് അവതരിപ്പിക്കപ്പെടുന്നത്. മിക്കപ്പോഴും അവൾ വെളുത്ത ചർമ്മമുള്ളവളും പരിഷ്കൃതമായ ഇംഗ്ലീഷ് സംസാരിക്കുന്നവളും ഉയർന്ന സാമൂഹിക പദവി സൂചിപ്പിക്കുന്ന കുടുംബപ്പേരുള്ളവളുമായിരിക്കും. ഇത് ഷെർലി കാർഡിന്റെ (Shirley card) ഡിജിറ്റൽ പതിപ്പാണ്. ഈ വരേണ്യ വിഭാഗത്തിൽ ഉൾപ്പെടാത്ത ദശലക്ഷക്കണക്കിന് സ്ത്രീകളുടെ ജീവിത യാഥാർത്ഥ്യങ്ങളെ ഒഴിവാക്കുന്ന സ്ത്രീത്വത്തിന്റെ പരിമിതമായ ഒരു പതിപ്പാണിത്.

ഈ മായ്ക്കൽ കേവലം ചിത്രങ്ങളിലോ കഥകളിലോ ഉള്ള പ്രാതിനിധ്യത്തിന്റെ മാത്രം പ്രശ്നമല്ല മറിച്ച് സാങ്കേതികവിദ്യ വിവിധ ജനവിഭാഗങ്ങളെ എങ്ങനെ സേവിക്കുന്നു എന്നതിനെ ഇത് ബാധിക്കുന്നുണ്ട്. വോയ്സ് റെക്കഗ്നിഷൻ (voice recognition), നാച്ചുറൽ ലാംഗ്വേജ് പ്രോസസ്സിംഗ് (natural language processing) എന്നിവയുടെ വികാസം പരിശോധിക്കുക. നഗരങ്ങളിലെ അഭ്യസ്തവിദ്യരും പ്രബല ജാതിക്കാരും സംസാരിക്കുന്ന സ്റ്റാൻഡേർഡ് ഡയലക്റ്റുകളിലാണ് (standardized dialects) ഈ സംവിധാനങ്ങൾ പരിശീലിപ്പിക്കപ്പെട്ടിരിക്കുന്നത്. ഒരു പ്രാദേശിക ഭാഷയോ ഗോത്രഭാഷയോ സംസാരിക്കുന്ന ഗ്രാമീണ മേഖലയിലെ ഒരു സ്ത്രീയെ സംബന്ധിച്ചിടത്തോളം എഐ ഒരു ഉപകരണമാകുന്നതിന് പകരം ഒരു തടസ്സമായി മാറുന്നു. അവളുടെ ശബ്ദം ഒരിക്കലും ട്രെയിനിംഗ് സെറ്റിൽ (training set) ഉൾപ്പെടുത്താത്തതുകൊണ്ട് മെഷീന് അവളെ കേൾക്കാൻ കഴിയില്ല. ഇത് സാമൂഹിക മൂലധനമുള്ളവരുടെ കൈകളിൽ മാത്രം സാങ്കേതിക പുരോഗതി കേന്ദ്രീകരിക്കപ്പെടുന്ന ഒരു ബഹിഷ്കരണ ഭൂമിശാസ്ത്രം (geography of exclusion) സൃഷ്ടിക്കുന്നു.

കൂടാതെ എഐ വഴിയുള്ള സംസ്കാരത്തിന്റെ ഏകശിലാത്മകവൽക്കരണം (flattening of culture) തദ്ദേശീയവും പാർശ്വവൽക്കരിക്കപ്പെട്ടതുമായ അറിവുകളുടെ നാശത്തിന് കാരണമാകുന്നു. ഇന്ത്യൻ പാരമ്പര്യത്തെക്കുറിച്ചോ ചരിത്രത്തെക്കുറിച്ചോ ചോദിക്കുമ്പോൾ വരേണ്യവർഗത്തിനോ ബ്രാഹ്മണ്യത്തിനോ മുൻതൂക്കമുള്ള കാഴ്ചപ്പാടുകളാണ് എഐ നൽകുന്നത്. ബഹുജൻ വിഭാഗങ്ങളുടെ വൈവിധ്യമാർന്ന പാരമ്പര്യങ്ങൾ, ആദിവാസി ഗോത്രങ്ങളുടെ സവിശേഷമായ പാരിസ്ഥിതിക അറിവുകൾ, ജാതിവിരുദ്ധ പോരാട്ടങ്ങളുടെ ചരിത്രം എന്നിവ പലപ്പോഴും നോയ്സി ഡാറ്റ (noisy data) അഥവാ അപ്രധാനമായ വിവരങ്ങളായാണ് കണക്കാക്കപ്പെടുന്നത്. ഇത്തരം അറിവുകളെ അത്യന്താപേക്ഷിതമായി തരംതിരിക്കുന്നതിൽ പരാജയപ്പെടുന്നതിലൂടെ എഐ ഒരു ഡിജിറ്റൽ മോണോകൾച്ചർ (digital monoculture) സൃഷ്ടിക്കുന്നു. ഇന്ത്യൻ ആകാനോ ഒരു സ്ത്രീ ആകാനോ വിജയിക്കാനോ ഒരേയൊരു വഴി മാത്രമേയുള്ളൂ എന്ന ധാരണ ഇത് ഉറപ്പിക്കുന്നു. ചരിത്രപരമായ സ്വാംശീകരണത്തെ മെഷീന്റെ സഹായത്തോടെ പൂർത്തിയാക്കുന്ന ഒരു സാംസ്കാരിക അധിനിവേശമാണിത്.

ഈ മുമ്മടങ്ങ് പാർശ്വവൽക്കരണം (Triple Marginalisation) സ്വയം ആവർത്തിക്കുന്ന ഒന്നായി മാറുന്നു എന്നതാണ് ഇതിലെ അപകടം. നമ്മൾ കണ്ടൻ്റുകൾ സൃഷ്ടിക്കാൻ എഐയെ കൂടുതൽ ആശ്രയിക്കുമ്പോൾ ഈ വംശീയ-വർഗീയ പക്ഷപാതങ്ങൾ പ്രതിഫലിക്കുന്ന കഥകളും ചിത്രങ്ങളും കൊണ്ട് ഇന്റർനെറ്റ് നിറയും. ഭാവിയിലെ മോഡലുകൾ ഈ എഐ കണ്ടൻ്റുകളുടെ ഉള്ളടക്കത്തിൽ നിന്ന് പരിശീലനം നേടുമ്പോൾ പാർശ്വവൽക്കരിക്കപ്പെട്ടവരുടെ ശബ്ദങ്ങൾ ഇനിയും കുറയും. ഇന്നത്തെ എഐ ഫലങ്ങളിൽ ഒരു ദളിത് സ്ത്രീ നായികയാകുന്നില്ലെങ്കിൽ നാളത്തെ വിവരശേഖരങ്ങളിൽ അവളെ കണ്ടെത്തുക എന്നത് അസാധ്യമാകും. പാർശ്വവൽക്കരിക്കപ്പെട്ടവരുടെ ചരിത്രങ്ങളും സ്വത്വങ്ങളും ഡിഫോൾട്ട് ഡാറ്റയുടെ (default data) മലകൾക്കിടയിൽ കുഴിച്ചുമൂടപ്പെടുന്ന ഒരു ഡിജിറ്റൽ ശ്മശാനമാണ് നമ്മൾ നിർമ്മിക്കുന്നത്. നൂറ്റാണ്ടുകളായി അധ്വാനത്തിന്റെയും പോരാട്ടത്തിന്റെയും നട്ടെല്ലായിരുന്ന മനുഷ്യരെ കാണാൻ കഴിയാത്ത ഒരു ഭാവിയാണ് നമ്മൾ കെട്ടിപ്പടുക്കുന്നത്.

ഈ മാറ്റിനിർത്തൽ ഘടനയെ മറികടക്കാൻ പ്രോംപ്റ്റുകളിൽ (prompts) വരുത്തുന്ന ചെറിയ മാറ്റങ്ങൾ മാത്രം പോരാ. ഡാറ്റ എങ്ങനെ ശേഖരിക്കപ്പെടുന്നു, വിലമതിക്കപ്പെടുന്നു എന്നതിൽ അടിസ്ഥാനപരമായ മാറ്റം വരണം. പാർശ്വവൽക്കരിക്കപ്പെട്ട സ്ത്രീകളുടെയും പ്രാദേശിക സംസ്കാരങ്ങളുടെയും വിട്ടുപോയ വിവരങ്ങൾ (missing data) ബോധപൂർവ്വം കണ്ടെത്തേണ്ടതുണ്ട്. സിലിക്കൺ വാലിയിലെയോ ബംഗളൂരുവിലെയോ വരേണ്യവർഗത്തിൽ നിന്നുള്ളവർ മാത്രമല്ല മറിച്ച് നിലവിൽ മായ്ക്കപ്പെട്ടുകൊണ്ടിരിക്കുന്ന വിഭാഗങ്ങളിൽ നിന്നുള്ളവരും ഈ മോഡലുകൾ നിർമ്മിക്കാനും പരിശോധിക്കാനും ഉണ്ടെന്ന് ഉറപ്പുവരുത്തണം. പ്രാദേശികമായ ബഹിഷ്കരണങ്ങളിൽ നിർമ്മിക്കപ്പെട്ട ഒരു ആഗോള മോഡൽ ഒരിക്കലും നീതിയുക്തമാകില്ലെന്ന് നമ്മൾ തിരിച്ചറിയണം. എഐ മനുഷ്യത്വത്തിന് മുഴുവൻ വേണ്ടിയുള്ള ഒരു ഉപകരണമാകണമെങ്കിൽ അത് പാർശ്വവൽക്കരിക്കപ്പെട്ടവരിലെ മിടുക്കിനെയും ഭാഷാഭേദങ്ങളിലെ കരുത്തിനെയും ചരിത്രപരമായി അദൃശ്യമാക്കപ്പെട്ട സ്ത്രീകളിലെ നേതൃത്വത്തെയും തിരിച്ചറിയണം. ഈ ശ്രമമില്ലെങ്കിൽ ഡിജിറ്റൽ കണ്ണാടി കാണിക്കുന്നത് യാഥാർത്ഥ്യത്തേക്കാൾ ചെറുതും വെളുത്തതും പുരുഷ കേന്ദ്രീകൃതവുമായ ഒരു ലോകമായിരിക്കും.

പ്രതിഫലനങ്ങളിലെ വൈകല്യങ്ങൾ: ഡിജിറ്റൽ ഭാവിയുടെ പുനർനിർണ്ണയം.

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് നിർണ്ണയിക്കുന്ന ഒരു യുഗത്തിന്റെ പടിവാതിൽക്കൽ നിൽക്കുമ്പോൾ നമ്മുടെ ഏറ്റവും വികസിതമായ ഉപകരണങ്ങൾ പലപ്പോഴും ഏറ്റവും പിന്തിരിപ്പൻ സ്വഭാവം പുലർത്തുന്നു എന്ന അസുഖകരമായ യാഥാർത്ഥ്യത്തെ നമ്മൾ അഭിമുഖീകരിക്കേണ്ടതുണ്ട്. 1940-കളിലെ അനലോഗ് ഷെർലി കാർഡിൽ (Shirley card) നിന്ന് 2020-കളിലെ അൽഗോരിതമിക് ജാതീയതയിലേക്കുള്ള (algorithmic casteism) ഈ യാത്ര സാങ്കേതികവിദ്യ രൂപകൽപ്പന ചെയ്യുന്നതിലും വിന്യസിക്കുന്നതിലും നമുക്ക് സംഭവിച്ചുകൊണ്ടിരിക്കുന്ന പരാജയത്തെയാണ് വെളിപ്പെടുത്തുന്നത്. ഫിലിം കെമിസ്ട്രിക്ക് ഇരുണ്ട ചർമ്മത്തെ കാണാൻ കഴിയാതിരുന്ന ഒരു ലോകത്ത് നിന്ന് ഡാറ്റാ ഘടനകൾക്ക് (data structures) പാർശ്വവൽക്കരിക്കപ്പെട്ട സ്വത്വങ്ങളെ കാണാൻ കഴിയാത്ത ഒരു ലോകത്തേക്ക് നമ്മൾ മാറിയിരിക്കുന്നു. രണ്ട് സാഹചര്യങ്ങളിലും യന്ത്രം എന്നത് സത്യത്തിന്റെ നിഷ്പക്ഷനായ ഒരു മധ്യസ്ഥനല്ല. പകരം അത് നമ്മുടെ സമൂഹത്തിന്റെ ഘടനാപരമായ അസമത്വങ്ങളെ പ്രതിഫലിപ്പിക്കുന്ന ഒരു കണ്ണാടിയാണ്. പലപ്പോഴും കാര്യക്ഷമതയുടെയും വ്യാപ്തിയുടെയും പേരിൽ ഈ അസമത്വങ്ങളെ അത് പെരുപ്പിച്ചു കാട്ടുന്നു. ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിനെ വസ്തുനിഷ്ഠമായ ഉത്തരങ്ങൾ നൽകുന്ന ഒരു മാന്ത്രികപ്പെട്ടിയായി കാണുന്നത് തുടർന്നാൽ ഭൂതകാലത്തിന്റെ മുൻവിധികളെ ഭാവിയിലേക്കായി വ്യവസ്ഥാപിതമാക്കുന്ന അപകടത്തിലേക്കാകും അത് നമ്മെ എത്തിക്കുക.

തെളിവുകൾ വ്യക്തമാണ്. മിടുക്കിനെ സൂചിപ്പിക്കാൻ എഐ സവർണ്ണ കുടുംബപ്പേരുകൾ സ്വീകരിക്കുമ്പോഴോ അല്ലെങ്കിൽ നേതൃത്വത്തിലുള്ള ഇന്ത്യൻ സ്ത്രീകളുടെ സാന്നിധ്യം അവഗണിക്കുമ്പോഴോ അത് ഒരു പിശക് വരുത്തുകയല്ല ചെയ്യുന്നത്. പകരം അത് പരിശീലിപ്പിക്കപ്പെട്ട വിവരശേഖരങ്ങളിലെ (archives) പക്ഷപാതങ്ങളെ കൃത്യമായി റിപ്പോർട്ട് ചെയ്യുകയാണ്. ചരിത്രത്തിലെ വിജയികളും വരേണ്യവർഗവും പ്രബല വിഭാഗങ്ങളും എഴുതിവെച്ച ഡിജിറ്റൽ ചരിത്രത്തിലാണ് ഈ മോഡലുകൾ പരിശീലിപ്പിക്കപ്പെട്ടിരിക്കുന്നത്. ദളിത്, ബഹുജൻ, ആദിവാസി വിഭാഗങ്ങളുടെ ശബ്ദങ്ങളെയും സ്ത്രീകളുടെ സവിശേഷമായ ജീവിതാനുഭവങ്ങളെയും അവഗണിക്കുന്നതിലൂടെ ചരിത്രപരമായ ബഹിഷ്കരണത്തിന് തുല്യമായ ഒരു ഡിജിറ്റൽ റിമൂവൽ ഈ അൽഗോരിതങ്ങൾ നടത്തുന്നത്. ഒരു യന്ത്രം അത് സ്വീകരിക്കുന്ന ഡാറ്റയേക്കാൾ ധാർമ്മികമാകുമെന്നോ അല്ലെങ്കിൽ അതിന്റെ സ്രഷ്ടാക്കളെക്കാൾ ഉൾക്കൊള്ളൽ സ്വഭാവം (inclusive) പുലർത്തുമെന്നോ നമുക്ക് പ്രതീക്ഷിക്കാൻ കഴിയില്ല.

ഈ ചക്രം തകർക്കാൻ കേവലം സാങ്കേതികമായ തിരുത്തലുകളോ വാണിജ്യപരമായ ബ്രാൻഡിംഗുകളോ (branding) മാത്രം പോരാ. ഡിജിറ്റൽ യുഗത്തിൽ മനുഷ്യാനുഭവങ്ങളെ നമ്മൾ എങ്ങനെ വിലമതിക്കുന്നു എന്നതിൽ അടിസ്ഥാനപരമായ മാറ്റം വരണം. ലാഭമുണ്ടാകുമ്പോൾ മാത്രം സാങ്കേതികവിദ്യ പരിഷ്കരിക്കുന്ന വിപണി കേന്ദ്രീകൃതമായ യുക്തിക്ക് അപ്പുറത്തേക്ക് നമ്മൾ മാറണം. നമ്മുടെ വിവരശേഖരങ്ങളെ വൈവിധ്യവൽക്കരിക്കുകയും സാങ്കേതിക കുത്തകകളുടെ അധികാരം വികേന്ദ്രീകരിക്കുകയും ചരിത്രപരമായി അദൃശ്യമാക്കപ്പെട്ടവരുടെ കാഴ്ചപ്പാടുകൾക്ക് പ്രാധാന്യം നൽകുകയും ചെയ്യുമ്പോഴാണ് യഥാർത്ഥ പുരോഗതി ഉണ്ടാകുന്നത്. ശരാശരിയെയോ അല്ലെങ്കിൽ നിലവിലുള്ള മാനദണ്ഡങ്ങളെയോ മാത്രം തിരയുന്ന ഒന്നാകരുത് സാങ്കേതികവിദ്യ. പകരം മനുഷ്യ വൈവിധ്യത്തിന്റെ ഓരോ കോണിലുമുള്ള അന്തസ്സും ബുദ്ധിയും തിരിച്ചറിയുന്ന ഒന്നായിരിക്കണം അത്.

യഥാർത്ഥത്തിൽ കണ്ണാടിയിലെ വിള്ളലുകൾ എഐയുടെ പിഴവുകളല്ല മറിച്ച് അതിൻ്റെ നിർമ്മാതാക്കളുടെയാണ്. ജാതി, ലിംഗം, വംശം എന്നിവയാൽ മുറിവേറ്റ നമ്മൾ കെട്ടിപ്പടുത്ത ലോകത്തെ തന്നെയാണ് യന്ത്രം നമുക്ക് കാണിച്ചുതരുന്നത്. സാങ്കേതികവിദ്യ എല്ലാവർക്കും പ്രയോജനപ്പെടുന്ന ഒരു ഭാവി വേണമെങ്കിൽ നമ്മുടെ ഭൗതിക ലോകത്തെ കൂടുതൽ നീതിയുക്തമാക്കാനുള്ള കഠിനമായ പരിശ്രമമാണ് ആദ്യം വേണ്ടത്. രക്ഷയ്ക്കായി മാന്ത്രികപ്പെട്ടികളിലേക്ക് നോക്കുന്നത് അവസാനിപ്പിച്ച് നമ്മൾ നമ്മിലേക്ക് തന്നെ നോക്കണം. എഐ പ്രതിഫലിപ്പിക്കുന്ന യാഥാർത്ഥ്യത്തെ തിരുത്തിയാൽ മാത്രമേ ഡിജിറ്റൽ കണ്ണാടിയിൽ നീതിയുക്തവും പ്രാതിനിധ്യമുള്ളതുമായ ഒരു ചിത്രം കാണാൻ നമുക്ക് കഴിയൂ. ബുദ്ധിപരമായ ഭാവി എന്നത് മനുഷ്യവർഗ്ഗത്തെപ്പോലെ തന്നെ വൈവിധ്യമുള്ളതാകണം അല്ലാത്തപക്ഷം അത് യഥാർത്ഥത്തിൽ ബുദ്ധിപരമായിരിക്കില്ല.