به نقل از «تقریب»

ابزارهای هوش مصنوعی باید کنترل کننده انسانی داشته باشند

تاریخ انتشار: ۲۳ آبان ۱۴۰۲ | کد خبر: ۳۹۰۸۳۸۴۱

به گزارش حوزه بین‌الملل خبرگزاری تقریب، حجت الاسلام و المسلمین دکتر حمید شهریاری، دبیرکل مجمع جهانی تقریب مذاهب اسلامی در جمع اساتید و اعضای هیئت علمی و دانشجویان دانشکده فلسفه و علوم ادیان دانشگاه زاگرب کراواسی تاکید کرد که بحث هوش مصنوعی ابعاد مختلف و گسترده‌ای دارد و تمامی زندگی انسان را در برمی‌گیرد.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

 
وی افزود: «مهم‌ترین موضوعی که در بحث فضای مجازی و هوش مصنوعی باید مورد بررسی قرار گیرد، موضوع حکمرانی آینده جهان است که تا حد زیادی مبتنی بر هوش مصنوعی است. آینده اداره جهان چگونه خواهد بود و جهان چه نوع حاکمانی خواهد داشت؟»
 
حجت الاسلام شهریاری در ادامه سه موضوع بلاک چین، کلان داده و هوش مصنوعی را مورد بررسی قرار داد و گفت: «پیش‌بینی می‌شود با توسعه بلاک چین نیاز به سازمان‌های حاکمیتی کاهش یابد، زیرا بسیاری از سازمان‌های دولتی به گونه‌ای طراحی شده‌اند که اطمینان حاصل کنند که شرکت‌ها مسئولیت‌های خود را به خوبی و درستی انجام می‌دهند. دولت‌ها برای تضمین این حسن انجام کار سازمان‌هایی ایجاد می‌کنند. به عنوان مثال در کشور ما سازمان ثبت اسناد برای اطمینان از مالکیت اراضی و املاک و همچنین خرید و فروش آنها ایجاد شده است.»

وی افزود: «با ظهور بلاک چین مشخص شد که فناوری می‌تواند، اسناد را بررسی کند. این یک تغییر در حکمرانی است، زیرا دولت را از ایجاد این نوع سازمان‌ها بی‌نیاز می‌کند.»
 
وی در رابطه با مفهوم کلان داده خاطرنشان کرد: «این مفهوم می‌تواند ملی یا بین‌المللی باشد. در نظر بگیرید که شرکت‌های بزرگی مانند گوگل و آمازون و پلتفرم‌هایی که کالاها و خدمات به مردم ارائه می‌کنند، داده‌های بزرگی دارند که می‌تواند به حاکمان جامعه کمک کند تا سازمان‌های خود را بهتر مدیریت کنند و تصمیم‌های بهتری برای مشتریان خود بگیرند. انباشت این داده‌ها از مشتریان، کار انبارداری یا چرخه عرضه کالا و خدمات را برای ارائه دهندگان خدمات تسهیل می‌کند، هزینه‌های آنها را کاهش می‌دهد و سود بیشتری را برای آنها به ارمغان می‌آورد.»

دبیرکل مجمع تقریب گفت که می‌توان پیش بینی کرد در آینده دیگر کشورها، توسط حاکمان و دولت‌ها اداره نمی‌شوند و شرکت‌های بزرگی که داده‌های بزرگی دارند، جامعه را مدیریت می‌کنند.

وی در ادامه به موضوع هوش مصنوعی پرداخت و افزود: «هوش مصنوعی در صورت گسترش در زندگی ما، از این کلان داده‌ها استفاده می‌کند، الگوریتم‌های منطبقی دارد و از بلاک چین استفاده می‌کند، و همچنین مهندسان، یک ربات هوشمند را آموزش می‌دهند که بداند در شرایط خاص چه کاری باید انجام دهد.»

حجت الاسلام شهریاری عنوان کرد: «همچنین این امکان وجود دارد که هوش مصنوعی با تشخیص چهره فردی که در وضعیت روحی یا جسمی خطرناکی قرار دارد، با ارائه مشاوره صوتی به آن فرد، آرامش را در او برقرار کرده و از ارتکاب خطر قتل جلوگیری کند و یا با استفاده از داده‌های پزشکی و داروهای قبلی فرد می‌تواند خطر حمله قلبی را تشخیص دهد و  او را برای عمل جراحی آماده کند.»

وی گفت: «همه این موارد را در فیلم‌های علمی تخیلی بسیار دیده‌ایم و البته تحقق آن به دور از واقعیت نیست. این آینده‌نگری همه ما را وادار می‌کند تا بحث هوش مصنوعی و آینده حکمرانی را بررسی کنیم.»
 
مشکلات هوش مصنوعی در زندگی آینده
دبیرکل مجمع جهانی تقریب مذاهب اسلامی در ادامه به مشکلات هوش مصنوعی پرداخت و گفت: «اولین مشکلی که در حکمرانی مبتنی بر هوش مصنوعی به وجود می‌آید، ناشی از یک اصل در علوم تربیتی و روانشناسی جدید است که با مطالعه نمونه‌هایی از رفتار انسان در جامعه، رفتار او یا دیگری را پیش‌بینی می‌کنند. اگرچه این اصل ممکن است در بعضی موارد نادرست باشد زیرا هر فرد رفتار خاص خود را دارد.»

وی افزود: «از نظر فلسفه اسلامی، هر انسان متمایز از دیگران است و با فرد دیگر اختلافات گسترده‌ای دارد. این ابزارها با مطالعه رفتار دوست من نمی‌توانند رفتار من را پیش‌بینی کنند و یکی از دلایل آن این است که ما علاقه‌ها و سلیقه‌های متفاوتی داریم.»

دکتر شهریاری با تاکید بر اینکه با ظهور هوش مصنوعی، جامعه ما با مهندسان درگیر خواهد شد، گفت: «مهندسان به ماشین‌ها اصول کلی آموزش را می‌دهند و از آنها می‌خواهند الگوهای آموخته شده را در موارد مشابه گسترش دهند. در حالی که با توجه به غیرقابل مقایسه بودن انسان‌ها، این کار مهندسان دارای یک فرضیه نادرست است.»

وی در رابطه با ناهمگونی سازمانی خاطرنشان کرد: «باید بدانیم که چون هر سازمانی از افراد مختلفی تشکیل شده، هویت اجتماعی آن با سایر سازمان‌های مشابه متفاوت است، به همین دلیل نمی‌توان آنها را با یکدیگر مقایسه کرد. انعطاف‌ناپذیری نسبت به واقعیت‌های اجتماعی یکی از آفت‌های هوش مصنوعی است.»

وی به مشکلات دیگر هوش مصنوعی اشاره کرد و گفت: «مشکل دیگر در پویایی هویت ماشین هوشمند و انسان است. معمولا ساختارهای تصمیم‌گیری مبتنی بر هوش مصنوعی، موضوع پویایی تعامل انسان و ماشین را نادیده می‌گیرند. بر اساس نظریه ملاصدرا در فلسفه اسلامی، هر ثانیه از زندگی انسان وجودی متفاوت از ثانیه قبل دارد. انسان مدام در حال تغییر است، یعنی باورهایش هر روز تغییر می‌کند. این تحولات و تغییرات از جمله واقعیت‌هایی است که در بحث حاکمیت هوش مصنوعی موثر است.»

دبیرکل مجمع بحث اسلحه و شناسایی خودکار افراد را یکی از مشکلات جدی هوش مصنوعی توصیف کرد و اظهار داشت: «وقتی قرار باشد اسلحه به صورت خودکار و با دقت‌ بیشتری نسبت به انسان شلیک کند، ممکن است از وجود انسان‌های شرور رنج ببریم. این امکان وجود دارد که یک سلاح هوشمند آینده جامعه بشری را به طور جدی به خطر بیندازد.»

ورود به حریم خصوصی افراد
وی با اشاره به حریم شخصی افراد خاطرنشان کرد: «بسیاری از افراد تمایل دارند در فضای مجازی به صورت ناشناس فعالیت داشته باشند. اما هوش مصنوعی این حریم خصوصی را نقض و هویت افراد را مشخص می‌کند. ناشناخته بودن از نظر اخلاقی کار زشتی نیست و در زندگی بسیاری از زاهدان و عابدان و صالحان امری پسندیده است. اما نقض حریم خصوصی قطعا آینده زندگی بشر را با مشکلات جدی مواجه خواهد کرد.»
 
وی تاکید کرد که در دنیای امروز ثروت جهانی و مالکیت آن در دست سرمایه‌داران بزرگ است و استفاده یک سرمایه‌دار از هوش مصنوعی با یک فرد فقیر متفاوت خواهد بود.

دکتر شهریاری افزود: «در حال حاضر تقریبا 80 درصد سرمایه جهان در دست عده معدودی است و این افراد به کلان داده نیز دسترسی دارند که خود باعث افزایش نابرابری اجتماعی می‌شود. حال اگر هوش مصنوعی در دست چنین سرمایه‌دارانی باشد قطعا نابرابری اجتماعی را افزایش می‌دهد و این یکی از خطراتی است که گریبان‌گیر دنیای آینده است و امروزه در نوار غزه نیز می‌توان آن را مشاهده کرد.»
 
وی ادامه داد: «مشکل دیگر این است که در دام گروهی از مهندسان که از هوش مصنوعی استفاده می‌کنند، گرفتار شده‌ایم که مدیران و حاکمان اجتماعی را تشویق می‌کنند تا از این ابزارها برای بهره‌وری حاکمیت خود استفاده کنند. اما باید توجه داشت که هوش مصنوعی در صورتی که فاقد کلان داده باشد، بی‌اثر خواهد بود و ممکن است خطراتی را متوجه جامعه کند.»

کلان داده‌ها به دستگاه‌های هوشمند حیات می‌بخشند
وی تاکید کرد که هوش مصنوعی به خودی خود مهم است اما کلان داده‌هایی که با آن دستگاه‌های هوشمند را آموزش می‌دهیم بسیار مهم‌تر است و گفت: «کلان داده‌ها به دستگاه‌های هوشمند حیات می‌بخشند. آنچه امروز خطرناک است، داده‌هایی است که گوگل از زندگی روزمره ما جمع‌آوری کرده و ممکن است فردا به یک ماشین هوشمند تحویل داده شود.»
 
دبیرکل مجمع تقریب ادامه داد: «آیا دستگاه‌های هوشمند فکر می‌کنند؟ آنها تا چه حد مستقل خواهند بود؟ آیا آنها برای تهدید آینده زندگی بشر طراحی شده‌اند؟ آیا به جایی خواهیم رسید که کار آنها دقیق‌تر از انسان باشد و در نتیجه اجازه دخالت به انسان‌ها را ندهند؟ آیا آنها به اندازه کافی قدرتمند خواهند شد که مستقل از انسان عمل کنند؟ آیا سرنوشت بشر در دست دستگاه‌های هوشمند خواهد بود؟»

وی تاکید کرد: «آنچه سیاستمداران، حاکمان، دانشمندان، و مهندسان باید انجام دهند این است که به مسئولیتی که انسان بودن بر دوش آنها گذاشته، متعهد شوند. باید امیدوار بود با پایبندی به دستورالعمل‌ها زمانی فرا برسد که بتوانیم با بهره‌برداری از آنها از آسیب‌های دستگاه‌های هوشمند جلوگیری کنیم. در غیر این صورت اگر رحمت خدا شامل حال ما نشود، این دستگاه‌های هوشمند آخرالزمان را رقم خواهند زد.»

دبیرکل مجمع جهانی تقریب مذاهب اسلامی در پایان به چهار اصل در رابطه با ابزارهای هوش مصنوعی اشاره کرد و گفت: «ابزار هوشمند نباید به کسی یا چیزی آسیب برساند. ابزار هوشمند باید مطیع مردم باشد و ابزاری برای توسعه شر و قدرت سرمایه‌داران نباشد. ابزارهای هوشمند نباید کاملا مستقل از تصمیمات انسان عمل کنند و همیشه باید کنترل کننده انسانی داشته باشند تا از خطرات احتمالی آنها جلوگیری شود. ترس از خطرات احتمالی نباید جامعه بشری را از مزایای ابزار هوشمند محروم کند.»
 

منبع: تقریب

کلیدواژه: هوش مصنوعی دبیرکل مجمع جهانی تقریب مذاهب اسلامی کرواسی دستگاه های هوشمند هوش مصنوعی هوش مصنوعی کلان داده ها دبیرکل مجمع سازمان ها پیش بینی بلاک چین

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.taghribnews.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «تقریب» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۰۸۳۸۴۱ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

آمادگی هند برای تولید کتاب‌های صوتی با هوش مصنوعی

به نظر می‌رسد «راوی هوش مصنوعی» موضوعی مرتبط با ایالات متحده آمریکا یا اروپا محور به نظر برسد، اما کتاب‌های دیجیتال یا روایت شده با هوش مصنوعی ممکن است از لپ‌تاپ‌ها و تلفن‌های هوشمند هندی‌ها دور نباشند. 

به گزارش ایرنا از ستاد خبری سی‌وپنجمین نمایشگاه بین‌المللی کتاب تهران، هندوستان در این دوره از نمایشگاه به عنوان مهمان ویژه قرار است صنعت نشر خود را به ایرانیان معرفی کند. جریان نشر در هندوستان به دلیل وجود زبان‌های بومی گوناگون از تنوع خاصی برخوردار است. هندوستان به دلیل پیشینه تاریخی و همچنین روابط فرهنگی‌اش با ایران محتوای بسیاری برای ارائه به ایرانیان دارد. اما این صنعت اکنون در حوزه تکنولوژی نیز در حال آزمودن ایده‌هایی است که می‌تواند برای ایرانیان کارآیی داشته باشد. متنی که در ادامه می‌خوانید، با ترجمه و تالیف مارال توکلی یکی از این ایده‌ها را معرفی می‌کند:

صنعت نشر هند امکانات تولید کتاب‌های صوتی هوش مصنوعی را بررسی می‌کند. ناشران آماده حضور در این عرصه هستند، اما صداپیشگان و خوانندگان تردید دارند.

مدیسون مردی را توصیف می‌کند که به یک منظره زیبا نگاه می‌کند. صدای آهسته و بافت‌دار مدیسون هنگام توصیف آن منظره دلفریب بالا و پایین می‌شود. او کمی مکث می‌کند تا کمی تعلیق ایجاد شود، سپس وارد نقطه اوج می‌شود.

مدیسون یک انسان نیست، بلکه یک «راوی دیجیتال» است که Apple Books به‌طور خاص برای ژانرهای داستانی و عاشقانه ایجاد کرده است. برخی دیگر از راویان دیجیتالی موجود در این فهرست عبارتند از «جکسون» معمولی و دوستانه، «هلنا» سخت و ترسناک و «میچل» خشک اما استادانه.

اپل بوکز در وب‌سایتش، راوی‌های دیجیتالی خود را به عنوان راهی برای کمک به نویسندگان مستقل و نویسندگانی که آثارشان توسط ناشران کوچک‌تر منتشر شده، پیشنهاد می‌کند، چرا که با موانعی مانند سردرگمی فنی و هزینه‌های بالا مواجه نمی‌شوند.

وقتی این خبر در جامعه صداپیشگی پخش شد، واکنش‌های منفی بسیاری را برانگیخت، حتی زمانی که اپل بوکز به خوانندگان اطمینان داد که «به رشد فهرست کتاب‌های صوتی با روایت انسان ادامه خواهد داد.»

به نظر می‌رسد «راوی هوش مصنوعی» موضوعی مرتبط با ایالات متحده آمریکا یا اروپا محور به‌نظر برسد، اما کتاب‌های دیجیتال یا روایت شده با هوش مصنوعی ممکن است از لپ‌تاپ‌ها و تلفن‌های هوشمند هندی‌ها دور نباشند.

آنانت پادمانابهان؛ مدیرعامل «هارپر کالینز» هند، گفته است که آنها درحال حاضر درحال «نمونه‌گیری» از راویان هوش مصنوعی برای کتاب‌های صوتی هستند، اما هنوز صدایی که دوست داشته باشند پیدا نکرده‌اند. او معتقد است که هوش مصنوعی می‌تواند به تولید کتاب‌های صوتی بیشتر و صرفه‌جویی در زمان کمک کند.

پادمانابهان گفت: «می‌توانم به شما بگویم، شما تفاوت خوانش توسط هوش مصنوعی و انسان را نمی‌دانید.» «این جایی است که به آن می‌رسد تا زمانی به شما بگویم که این توسط هوش مصنوعی روایت شده است» (یا) «این روایت انسان است»، فکر نمی‌کنم متوجه شوید. در روایت‌های غیرداستانی و جاهای دیگر، فکر نمی‌کنم مهم باشد. فکر می‌کنم در داستان‌ها مهم است که روایت کجا مکث می‌کند، جایی که راوی چیزهای بیشتری را به ارمغان می‌آورد.»

وی افزود که راوی‌های هوش مصنوعی انتشار سریع‌تر کتاب‌های ترجمه شده را نیز امکان‌پذیر می‌کنند.

هند برای تولید کتاب‌های صوتی با هوش مصنوعی آماده می‌شود

نویسندگان چه فکری می‌کنند؟

خوانندگان و نویسندگان نگران پیامدهای اجتماعی جریان اصلی کتاب‌های روایت شده توسط هوش مصنوعی هستند و صداپیشگان فرصت‌های شغلی را از دست می‌دهند. متخصصان همچنین می‌ترسند که کتاب‌های صوتی که قبلا توسط آنها روایت شده است، بدون رضایت آنها برای آموزش ابزارهای هوش مصنوعی که می‌تواند جایگزین آنها شود، استفاده شود.

با درنظر گرفتن این موضوع، آیا خوانندگان و نویسندگان هندی از کتاب‌های روایت شده توسط هوش مصنوعی حمایت می‌کنند؟

میمی موندال، نویسنده هندی داستان‌های علمی تخیلی و فانتزی، گفت که از مفهوم کتاب‌های روایت شده با هوش مصنوعی و شکل آینده علمی-تخیلی اطراف او «بسیار هیجان زده» است. با این حال، او اعتراف کرد که اگر جایگزین انسانی وجود داشته باشد، چنین کتاب‌هایی را توصیه یا خریداری نمی‌کند.

ازنظر فنی این تقصیر هوش مصنوعی نیست. فقط این است که ما آن را به چنین دنیای نابرابری می‌آوریم و آن را به وسیله دیگری برای ظلم تبدیل می‌کنیم.

رش سوزان، نویسنده و ویراستار، که کتاب‌ها را در وبلاگ The Book Satchel مرور می‌کند، گفت که به کتاب‌های صوتی زیادی گوش می‌دهد، اما راوی‌های هوش مصنوعی/دیجیتال را «رباتیک و بی جان» می‌داند. او همچنین گفت که با بازبینی کتاب‌هایی که توسط راوی‌های دیجیتال خوانده می‌شود، موافقت نمی‌کند.

سوزان در بیانه‌ای ایمیلی گفت: من راوی دیجیتالی را به اندازه کافی خوب نمی‌دانم که با صداپیشگانی که می‌توانند جزئیات احساسات را از طریق آهنگ و سبک خواندن خود برانگیزند رقابت کنند. بنابراین، نظر کلی من درمورد کتاب تغییر می‌کند. امیدوارم روی این تمرکز کنیم که فناوری جدید چگونه می‌تواند به ما در انجام سریع‌تر و آسان‌تر کمک کند، و به دنبال راه‌هایی نباشیم که در آن کار انسان کم ارزش شده و قابل تعویض باشد.

از منظر یک منتقد، سوزان نگران بود که راوی دیجیتال عاملی است که می‌تواند بر موفقیت یا عدم موفقیت یک کتاب تأثیر بگذارد.

او هشدار داد: «یک کتاب خوب می‌تواند به یک کتاب صوتی متوسط در دست یک راوی بد تبدیل شود.»

موندال همچنین به طنز جایگزینی هوش مصنوعی با نیروی انسانی اشاره کرد و گفت که حتی با ارزان‌تر شدن فرآیندهای تولید و ارزان شدن کتاب‌ها، مردم شغل خود را از دست می‌دهند.

وی اشاره کرد: من می‌توانم ببینم مطبوعات کوچک و نویسندگان به حاشیه رانده شده چگونه می‌توانند از نیروی کار هوش مصنوعی سود ببرند، و من از آنها به خاطر استفاده از این فرصت کینه‌ای ندارم. ما نباید انتظار داشته باشیم که عدالت اجتماعی بر دوش ضعیف‌ترین اعضای جامعه ما بیاید. این نویسندگانی مانند من هستند که می‌توانند درمورد این موضوع موضع بگیرند و حرفه خود را از دست ندهند.

کانال عصر ایران در تلگرام