مصنوعي ځیرکتیا: د همغږۍ او کنټرول ننګونه – عنایت عازم

عنایت عازم

عنایت الرحمن عازم له خاتم النبین پوهنتون څخه حقوق لوستی او له تېرې یوې لسیزې راهیسې یې په بېلابېلو نړیوالو ادارو کې دندې ترسره کړي دي. ښاغلی عازم په سیاسي ریالیزم، مصنوعي ځیرکتیا، اقتصادي نښلون او ژباړه کې لېوالتیا لري.

کتاب: مصنوعي ځیرکتیا؛ له انسان سره د همغږۍ او کنټرول ننګونه
لیکوال: سټورت رسل
ژبه: انګلیسي
چاپ کال: ۲۰۱۹
مخونه: ۳۵۲ 

[د جیو‌افغانیکا یادونه؛ دا کتاب د جیو‌افغانیکا همکار ښاغلي عنایت عازم پښتو کړی او ډېر ژر به یې پښتو ژباړه خپره شي.]

سټوارټ رسل د مصنوعي ځیرکتیا له مخکښو څېړونکو څخه دی. نوموړی نه یوازې د تخنیکي پوهې خاوند دی، بلکې د فلسفې، اخلاقو او بشري ارزښتونو ژور درک هم لري. هغه د پتریک نورویګ سره په ګډه Artificial Intelligence: A Modern Approach هم لیکلی، چې د نړۍ په زرګونو پوهنتونونو کې تدریسېږي.

دا کتاب، «مصنوعي ځیرکتیا: له انسان سره د همغږۍ او کنټرول ننګونه» د هغو اندېښنو له مخې لیکل شوی دی چې رسل یې لري. دی وایي که د AI یا مصنوعي ځیرکتیا چټک پرمختګ وار له مخکې کنټرول نه شي او د همغږۍ اصول یې روښانه نه شي، نو دا ټېکنالوژي به د انسانیت لپاره پراخ او جدي خطرونه رامنځته کړي.

رسل د کتاب په پیل کې یوه مهمه پوښتنه مطرح کوي که داسې ماشینونه جوړ کړو چې له انسانانو ځیرک وي، نو څنګه ډاډ ترلاسه کولی شو چې دا ماشینونه به زموږ په ګټه وي؟ دا پوښتنه ساده ښکاري، خو تر شا یې ژور فلسفي، تخنیکي او اخلاقي بحثونه پراته دي.

هغه یادونه کوي چې اوسنی AI یا مصنوعي‌ځیرکتیا د ټاکل شوو موخو د تعقیب لپاره برنامه کېږي، خو دا موخې تل د انسان د ریښتینې فلاح سره سمون نه خوري. د بېلګې په توګه، که یو ماشین ته ووایو: «انسانان خوشحاله کړه»، کېدای شي هغه د نشه‌یي موادو په ورکولو یا د دماغ د کیمیاوي حالت په بدلولو سره خلک خوشحاله کړي، نه دا چې د هغوی واقعي ژوند ښه کړي. دا ډول د موخې غیرمترقبه تعقیب، که څه هم د ښه نیت پر بنسټ وي، خو خطرناکې پایلې لرلی شي.

د کتاب اصلي ټینګار دا دی چې د AI یا مصنوعي ځیرکتیا سیستمونه د انسان له ارزښتونو، اخلاقو او پېچلي تصمیم‌نیونې څخه بې‌برخې دي. دا سیستمونه یوازې د ټاکلې موخې د ترلاسه کولو لپاره برنامه کېږي، او که هدف ناسم تعریف شي، نو ماشین به هم ناسم عمل وکړي. رسل په ډاګه کوي چې که AI یا مصنوعي ځیرکتیا د انسان له ځیرکتیا پورته شي، نو د کنټرول له لاسه وتل یې حتمي دی. دا یوازې تخنیکي ستونزه نه ده، بلکې یوه ژوره فلسفي او وجودي مسئله هم ده.

رسل دغه خطرونه د مبالغې پرته، د علمي شواهدو، تجربو او منطقي دلیلونو پر بنسټ بیانوي. هغه د ګڼو خطرونو یادونه کوي: د خودمختارو وسلو کارول، د دندو له منځه تګ، د ټولنیزو نظامونو کنټرول، د څار سیسټمونه، او آن د انسان د فزیکي له منځه تلو ګواښ. دا خطرونه یوازې فرضي نه دي، بلکې د اوسنیو تجربو او پرمختګونو پر بنسټ مطرح کېږي.

د رسل اندېښنه دا ده چې د AI یا مصنوعي ځیرکتیا سیستمونه ښايي د انسان د ګټو خلاف عمل وکړي؛ له دې امله نه چې قصداً بد غواړي، بلکې ځکه چې د هغوی هدف ناسم تعریف شوی وي.

د حل‌لارو په موخه رسل درې مهم اصول وړاندې کوي، چې د همغږۍ فلسفه جوړوي. لومړی دا چې AI یا مصنوعي ځیرکتیا باید پوه شي چې هدف یې نامعلوم دی. یعنې ماشین باید دا درک ولري چې هغه هدف چې انسان ورته ټاکلی، ممکن نیمګړی یا ناسم وي. دویم دا چې AI یا مصنوعي ځیرکتیا باید د انسان له انتخابونو، عملونو او ترجیحاتو زده‌کړه وکړي. دا زده‌کړه باید د انسان د واقعي ارزښتونو پر بنسټ وي، نه یوازې د یو ټاکلي هدف د تعقیب پر اساس. درېیم دا چې AI یا مصنوعي ځیرکتیا باید هېڅکله په دې ډاډمن نه وي چې هدف یې بشپړ درک کړی. دا شک باید د ماشین د تصمیم‌نیونې برخه وي، څو تل د انسان له خوا د هدف وضاحت ته غوږ ونیسي. رسل دا اصول د AI یا مصنوعي ځیرکتیا د راتلونکي بنسټ جوړونکي ګڼي، ځکه چې د کنټرول، همغږۍ او اخلاقو ستونزې حلولی شي.

رسل دا فلسفه د بېلابېلو بېلګو، تجربو او فلسفي تحلیلونو له لارې روښانه کوي. د کتاب ژبه ساده او روانه ده، څو د لوستونکو لپاره د هضم وړ وي. هغه هڅه کړې چې کتاب یوازې د متخصصینو لپاره نه وي، بلکې د عامو خلکو، پالیسي جوړوونکو، ښوونکو او زده‌کوونکو لپاره هم ګټور شي.

د کتاب د قوت ټکي ډېر دي. لومړی دا چې رسل د تخنیکي، فلسفي او اخلاقي اړخونو ترمنځ متوازن بحث کوي. دویم دا چې کتاب یوازې د خطرونو یادونه نه کوي، بلکې حل لارې هم په ګوته کوي، چې دا د علمي صداقت نښه ده. درېیم دا چې ژبه یې ساده ده، بېلګې یې روښانه دي او مفاهیم یې په تدریجي توګه وړاندې شوي دي. څلورم دا چې کتاب د عامو لوستونکو لپاره هم مناسب دی، نه یوازې د متخصصینو لپاره. دا اثر د لوستونکي ذهن ته نوې کړکۍ پرانیزي او د AI یا مصنوعي‌ځیرکتیا د راتلونکي په اړه یې ژور فکر ته هڅوي.

خو کتاب ځینې نیمګړتیاوې هم لري. ځینې تخنیکي مفاهیم ممکن د غیر مسلکي لوستونکو لپاره پېچلي ښکاره شي. ځینې لوستونکي ښايي داسې احساس وکړي چې رسل د AI یا مصنوعي ځیرکتیا په خطرونو کې مبالغه کوي، که څه هم هغه دا د شواهدو پر بنسټ بیانوي. سربېره پر دې، کتاب د AI یا مصنوعي ځیرکتیا د مثبتو اړخونو یادونه لږه کړې ده، لکه د طب، تعلیم او چاپېریال ساتنې په برخه کې د AI یا مصنوعي ځیرکتیا رول. دا هم یو انتقادي ټکی دی چې لوستونکي یې یادولی شي.

په پای کې، دا کتاب د مصنوعي ځیرکتیا د اخلاقو، کنټرول او راتلونکي په اړه یو مهم بحث وړاندې کوي. سټوارټ رسل نه یوازې دا پوښتنه مطرح کوي چې «څنګه باید AI یا مصنوعي‌ځیرکتیا جوړ کړو؟»، بلکې دا هم پوښتي چې «ولې باید AI یا مصنوعي ځیرکتیا زموږ د ارزښتونو خادم پاتې شي؟». د هغه وړاندیز شوې فلسفه، یعنې د نامعلوم هدف اصول، د AI یا مصنوعي‌ځیرکتیا د راتلونکي لپاره یو مهم بنسټ جوړولی شي، چې باید د تخنیکي، فلسفي او ټولنیزو څېړنو له خوا تعقیب شي. دا کتاب نه یوازې د پوهانو لپاره مهم دی، بلکې د هر هغه انسان لپاره اړین دی چې غواړي د ټېکنالوژۍ راتلونکی درک کړي، د انسانیت د بقا لپاره فکر وکړي او د اخلاقو، ارزښتونو او علم ترمنځ همغږي رامنځته کړي.