تاثیرات هوش مصنوعی بر دولت ملت ها

خلاصه ی گزارشی از کمیسیون مشورتی دیپلماسی عمومی وزارت امورخارجه ایالات متحده آمریکا، ژوئن 2023 ، ایالت واشنگتن:

اعضای پانل امروز ما عبارتند از الکساندر هانت - افسر روابط عمومی در سفارت ایالات متحده در کوناکری، گینه. جسیکا برانت - مدیر سیاست، هوش مصنوعی و ابتکار فناوری نوظهور در بروکینگز. و سرانجام، ایلان مانور - مدرس ارشد در دانشگاه بن گوریون نقب.

بحث در مورد تاثیر هوش مصنوعی امروز بر سرفصل های خبرها غالب شده است. از یک طرف، کارشناسان استدلال می کنند که هوش مصنوعی یک تهدید وجودی برای امنیت و رفاه جمعی ما است. از سوی دیگر، کسانی هستند که پتانسیل هوش مصنوعی را برای بهبود گسترده توانایی ما در مدیریت جریان اطلاعات مطرح می کنند.

این بحث در حوزه دیپلماسی عمومی نیز مطرح است. آیا استفاده از ابزارهایی مانند ChatGPTباعث انتشار اطلاعات نادرست و اخبار جعلی می شود؟ یا اینکه هوش مصنوعی می تواند نیرویی برای خیر باشد و ابزاری حیاتی برای جمع آوری، سازمان دهی، ارائه و ارزیابی اطلاعات برای دست اندرکاران دیپلماسی عمومی که بیش از حد کار می کنند و منابع کافی ندارند فراهم کند؟

ما استفاده از ChatGPT را در دسامبر سال گذشته شروع کردیم و واقعا کار ما را فوق العاده شارژ کرد. در ابتدا، ما فقط از آن در تیم مطبوعاتی خود برای پیش نویس خلاصه های رسانه ای استفاده می کردیم، که اکنون به متخصصان مطبوعات و رسانه های ما اجازه می دهد در عرض چند دقیقه پیش نویس خلاصه رسانه های روزانه ما را تهیه کنند. ما به سرعت متوجه شدیم که این یک ابزار واقعا قدرتمند است و کل بخش می تواند از آن بهره مند شود. ما آن را در ماه فوریه در سراسر بخش منتشر کردیم، و از آن زمان به ما در همه چیز از تهیه پیش نویس سخنرانی و راهنمایی مطبوعاتی گرفته تا ایجاد طرح های پیشنهادی پروژه و پست های رسانه های اجتماعی کمک کرده است.

اخیرا، ما در واقع شروع به کاوش سایر ابزارهای هوش مصنوعی کرده ایم که می توانند به تصویر، ویدیو و صدا کمک کنند. مواردی مانند کمک به ما در زمینه گرافیک و کلیپ های ویدیویی، پاک کردن صدا، ویرایش عکس ها و موارد مشابه.

من می خواهم دقیقا به اولین مثال بپردازم که منظورم از آن چیست. اگر به آن دستوری مانند «یک سخنرانی برای روز جهانی زن بنویسم» بدهم، چیزی بسیار کلی ایجاد می کند. مثلا ممکن است با مخاطب ما صحبت نکند. اما می توانید ببینید که نمونه هایی از زنان از تاریخ به دست آمده است. چیزی را تولید می کند که ممکن است نقطه شروع خوبی باشد.

اما متوجه شده ایم که اگر بتوانیم به آن دستور بسیار دقیق تری بدهیم - برای مثال، «یک سخنرانی برای سفیر ایالات متحده در گینه برای یک پذیرایی دیپلماتیک بنویسید. مخاطبان بیشتر خانم ها هستند. باید پنج دقیقه طول بکشد. ارجاع به شخصیت های برجسته زن تاریخی در گینه و نقل قولی از یک شخصیت برجسته زن آمریکایی را درج کنید. من هم اشاره کردم که لحن باید چه باشد.

اکنون ما چیزی داریم که بسیار قوی تر است و می تواند در بین مخاطبان ما طنین اندازی بهتری داشته باشد، زیرا نمونه های خاصی از زنان از تاریخ گینه دارد. در اینجا، برای مثال، ما هاجا مافوری بانگورا را داریم. این یک نقطه شروع عالی است.

من می خواهم روشن کنم که تیم ما برای در نظر گرفتن این یک پیش نویس آموزش دیده است و آنها باید تمام جزئیاتی را که ChatGPT ارائه می دهد تایید کنند. این واقعا مهم است. اما متوجه شدیم که انجام اولین کار برای ما و شروع کردن ما عالی است.

مثال دیگری که می خواهم به اشتراک بگذارم این است که چگونه خلاصه های رسانه ای خود را انجام می دهیم. ما در واقع ChatGPT را در قالب خلاصه های رسانه ای خود در اینجا در گینه آموزش داده ایم.

ما به آن گفته ایم: «می خواهم این کانال را به تهیه خلاصه های رسانه ای اختصاص دهم. من می خواهم برای شما مثالی از ظاهر یک نفر ارائه کنم." ما آن را مثال زدیم تا بتواند یاد بگیرد که قالب ما چگونه است.

بعد از اینکه آن را آموزش دادیم، اساسا تایید می کند: «بله، من می دانم که خلاصه های رسانه ای شما چگونه است.» این [مثال] در ChatGPT4 است که جدیدترین مدل GPT است. ما از یک افزونه در ChatGPT 4 استفاده می کنیم که فقط در حساب های حرفه ای موجود است. این به آن امکان می دهد در صورت ارائه لینک ها را بخواند.

توجه به این نکته مهم است که اگر از حساب Pro استفاده نمی کنید، ChatGPT نمی تواند پیوندهای ارائه شده را بخواند، حتی اگر خروجی تولید کند که شما را باور کند که می تواند. خلاصه ای قانع کننده از هر پیوندی که ارائه کرده اید به شما ارائه می دهد. این کار را با استفاده از کلمات موجود در URL انجام می دهد. به این حالت توهم می گویند. مهم است که خروجی را با دقت بررسی کنید.

در این مورد، ما از افزونه ای استفاده می کنیم که Link Readerنام دارد. در واقع پیوندها را می خواند و خلاصه رسانه را دقیقا در قالبی که ما نیاز داریم تولید می کند.

همچنین، به افسری که این موضوع را تایید می کند، اجازه می دهد تا محصول بسیار بهتری به زبان انگلیسی کامل داشته باشد که آماده کار است. این روشی است که ما خلاصه های رسانه ای خود را انجام می دهیم.

یک نکته در مورد این پلاگین ها قابل ذکر است. Open AI APIهای خود را در ماه مارس منتشر کرد، که به عنوان پیام رسان عمل می کنند که به برنامه های نرم افزاری مختلف اجازه می دهد تا با یکدیگر ارتباط برقرار کنند و تعامل داشته باشند. این به شرکت های نرم افزاری شخص ثالث اجازه می دهد تا این افزونه ها را ایجاد کنند. هر روز تعداد بیشتری از آنها وارد بازار می شوند. هر چه زمان می گذرد قدرتمندتر و قوی تر می شود.

آخرین چیزی که می خواهم به شما نشان دهم این است که چگونه ChatGPTمی تواند در طول زمان حافظه سازمانی ایجاد کند. ما دریافتیم که این می تواند برای افسران جدید مفید باشد، کسانی که به دنبال مختصری از تحولات قابل توجه در کشور هستند یا سعی در درک بافت محلی دارند.

به عنوان مثال، ما به آن دستوری مانند این می دهیم – «گزارشی از وضعیت اجتماعی، اقتصادی و سیاسی در گینه بر اساس اطلاعات خلاصه های رسانه ای ما که تاکنون در این جلسه چت با شما به اشتراک گذاشته ام ارائه کنید» – و سپس من می گویم: "بازیگران سیاسی، جناح ها، شخصیت ها و هرگونه درگیری را در میان آنها بگنجانید، و پیشرفت به سوی گذار به حکومت غیرنظامی و همچنین برداشت عمومی از رهبران سیاسی حاکم را ارزیابی کنید."

از آنجایی که ChatGPTتا سال 2021 بر روی داده ها ساخته شده است، نمی تواند اطلاعات به روز شده ای را به شما بدهد، مگر آنچه در طول زمان به آن داده اید. در این گفتگو، ما چندین ماه به آن مقاله داده ایم. این حافظه نهادی را در مورد گینه ساخته است. این تحولات جالبی در مورد آنچه در گینه می گذرد ایجاد کرده است. ممکن است این فرمت دقیقی که من می خواهم نباشد. بنابراین، می توانید به اینجا بیایید و دوباره ویرایش و ارسال کنید و در واقع یک پیش نویس متفاوت به شما می دهد. اکنون بیشتر در قالب گزارش است. اولین مورد این است که در حالی که ChatGPT یک مدل زبان بزرگ است، نه حساس است و نه آگاهانه. همچنین یک پایگاه داده واقعیت نیست، و حتی یک موتور استدلال نیز نیست. این بدان معناست که با اطمینان محتوایی تولید می کند که معتبر به نظر برسد، حتی اگر نادرست، نامناسب یا مغرضانه باشد. ما تیم خود را آموزش داده ایم که مراقب آن باشد، و مطمئن می شویم که همه این محتوا را درست مانند فرآیند ترخیص منظم و معمولی پاک می کنند.

اولین چیزی که ما آموختیم این است که ChatGPT و هوش مصنوعی مولد واقعا تقویت کننده انسان هستند. آنها جایگزین نیستند به ایجاد مشترک با این فناوری فکر کنید به همان روشی که از ابزارهایی مانند Excelاستفاده می کنید، برای مثال، برای تجزیه و تحلیل داده های پیچیده، بنابراین لازم نیست این کار را با دست انجام دهید—یا Google Translate یا چیزی شبیه به آن، بنابراین شما نیازی به ترجمه دستی نیست. ما فکر می کنیم که ChatGPT، 60درصد وسط کار را تولید می کند. ما به عنوان یک تیم، زمان و قدرت مغز انسان را به سه چیز اختصاص می دهیم.

اولین مورد این است که در ابتدا نیازهای خود را به وضوح بیان کنیم و درخواستی را تهیه کنیم که بهترین خروجی را به ما بدهد.

دوم این است که دقت، سبک، محتوا، سوگیری - همه این موارد را بررسی کنید.

در نهایت، هر مشاهدات یا تحلیلی را که از تعامل خود با مخاطبین در این زمینه آموخته ایم که می تواند به رنگ آمیزی محصول نهایی کمک کند، اضافه می کنیم.

برای من، این فناوری به اندازه مرورگر وب، تلفن هوشمند یا رسانه های اجتماعی برای جامعه مهم است. بسیار سریع در حال پیشرفت است و تقریبا هر روز اعلامیه های مهمی از سوی شرکت های فناوری ارائه می شود.

بیایید ابتدا در مورد بازیگران صحبت کنیم. از آنجایی که هوش مصنوعی مولد هزینه اجرای کمپین های نفوذ را کاهش می دهد، احتمالا شاهد تعداد فزاینده ای از بازیگران متنوع تر خواهیم بود که وارد بازی می شوند و برای استخدام نقش فزاینده ای را ایفا می کنند. سپس رفتار وجود دارد. در اینجا، بارزترین روند این است که این فناوری مبلغان را قادر می سازد تا حجم زیادی از محتوا را تولید کنند.

اکنون فکر نمی کنم این به خودی خود تغییری در زمین باشد، زیرا برای بازیکنان اصلی، حجم واقعا مشکلی نبوده است. اما هوش مصنوعی مولد رفتارهای موجود را کارآمدتر می کند – برای مثال، مواردی مانند آزمایش پیام ها از طریق پلتفرم های مختلف می تواند تقریبا بدون هزینه باشد.

ما شاهد برخی رفتارهای جدید خواهیم بود، مانند استفاده از ربات های چت که محتوای پویا، شخصی و هم زمان را ارائه می کنند. به طور بالقوه می توانیم ببینیم که چین از اینها برای اجرای کمپین های اظهار نظر گسترده استفاده می کند. تجزیه و تحلیل احساسات برای شخصی سازی بیشتر این محتوا، که می تواند تغییر کند. این واقعیت که این محتوای تولید شده بی نهایت منحصربه فرد خواهد بود، تشخیص آن را بسیار سخت تر می کند.

با درک این موضوع که فضای اطلاعات ممکن است پیامدترین منطقه ای باشد که دولت ها در دهه های آینده در آن رقابت خواهند کرد، ما به یک استراتژی غالب نیاز داریم که ریشه در مزایای نامتقارن قابل توجه ما داشته باشد. این باید طیف وسیعی از فعالیت ها را در داخل و خارج از حوزه اطلاعاتی شامل شود. دیپلماسی عمومی می تواند نقش سازنده ای داشته باشد.

می توانم بگویم ابتدا می توانیم از ابزارهای تجزیه و تحلیل احساسات مبتنی بر هوش مصنوعی برای درک بهتر جایی که روایت های اقتدارگرا در جوامع هدف در سراسر جهان ریشه می گیرند استفاده کنیم تا بدانیم توجه و منابع خود را کجا متمرکز کنیم. این می تواند در سطح کلان مفید باشد - برای مثال، ما باید به آنچه در آمریکای لاتین اتفاق می افتد توجه بیشتری داشته باشیم. اما همچنین در سطح خرد، زمانی که دیپلمات های عمومی باید تصمیم بگیرند که آیا به اتهام «وابستگی به چه چیزی» پاسخ دهند یا اینکه انجام این کار واقعا به چیزی اکسیژن می دهد که در غیر این صورت کشش چندانی نخواهد داشت.

من همچنین فکر می کنم که با سرمایه گذاری بر روی این نوع ابزارها یا ادامه این کار، USAGMمی تواند خود را برای توسعه پیشنهادهای سردبیری متناسب و قانع کننده که برای مرتبط ماندن در یک بازار شلوغ رسانه ای مدرن ضروری هستند، مجهز کند.

همچنین می توانیم از ابزارهای تجزیه و تحلیل رسانه های اجتماعی مبتنی بر هوش مصنوعی برای ارزیابی عملکرد محتوای خود استفاده کنیم، زیرا موفقیت به شناسایی و اولویت بندی مداوم تاثیرگذارترین مطالب بستگی دارد. کارهای بیشتری وجود دارد که می توانیم برای تسهیل اشتراک گذاری آن مواد در سراسر دولت انجام دهیم. اما ابتدا باید بفهمیم چه چیزی کار می کند.

همچنین می توانیم در نظر بگیریم که آیا می توان از سیستم های هوش مصنوعی برای ترجمه محتوای با کیفیت بالا برای انتشار به چندین زبان استفاده کرد. ما به تازگی نمونه ای را دیدیم که چگونه می توان از آن برای دستیابی به مخاطبانی فراتر از زبان هایی که منابع بیشتری برای آنها داریم استفاده کرد. رویدادهای اخیر می تواند انجام این کار را به سرعت با هزینه کم امکان پذیر کند و این می تواند دسترسی قانع کننده ترین مواد را افزایش دهد.

با انجام برخی از این مراحل، می توانیم از فرصت هایی که سیستم های هوش مصنوعی ایجاد می کنند، استفاده کنیم. اما این امر ما را با چند "مراقب باشید".

همه در اینجا درک کرده اند که چت بات ها می توانند مطالب مغرضانه یا نادرست تولید کنند. برخلاف رقبای خود، ما برای پیشرفت به یک محیط اطلاعاتی سالم وابسته هستیم، بنابراین کیفیت محتوای ما واقعا مهم است. همانطور که همکارانم همین الان توضیح دادند می توانیم از همه اینها برای تقویت کار تمرین کنندگان PDاستفاده کنیم، اما نمی توانیم انسان را از حلقه خارج کنیم.

ما همچنین باید مطمئن شویم که خودمان رسانه های مصنوعی –ویدیویی و صوتی – تولید نمی کنیم که اعتماد به ایالات متحده را تضعیف می کند و اعتماد به وجود حقیقت عینی را به طور گسترده از بین می برد. ما می خواهیم مطمئن شویم که استفاده از این فناوری ها به جای جایگزینی رسانه های خبری محلی در سراسر جهان، پشتیبانی می کند.

خبرنگاران مردم را در جریان قرار می دهند. آنها قدرت را به حساب می آورند. آنها برای استحکام شرکا و متحدان دموکراتیک ما ضروری هستند و سنگری در کشورهایی هستند که من آنها را «کنجکاو اقتدارگرا» می نامم.

از نظر تاکتیکی، اگر از نسخه ای از ChatGPT استفاده می کنید که در آن درخواست های کاربر و تعامل بعدی با خروجی ها به داده های آموزشی مدل بعدی بازگردانده می شود، خطری وجود دارد. به عنوان مثال، اگر یک دیپلمات از ChatGPTبخواهد ایمیلی را که در مورد یک رهبر خارجی می نویسد تصحیح کند، آن ایمیل به طور پیش فرض وارد مدل آموزشی برای مدل پایه بعدی می شود.

برای مثال، اگر یک افسر اطلاعاتی در یک کشور متخاصم، از آن مدل بنیادی بخواهد که در مورد آن رهبر فکر کند، می تواند نسخه ای از هر آنچه در ایمیل آن دیپلمات گفته شده است را بیرون بیاورد. حتی اگر این محتوا واقعا اطلاعات طبقه بندی شده نباشد، من فرض می کنم که نمی خواهیم این محتوا به طور گسترده تر پخش شود.

خطری در آنجا وجود دارد علاوه بر آن، خطرات سایبری متعارف بیشتری نیز وجود دارد – بسته به نحوه ذخیره سازی آن داده ها و رمزگذاری شده بودن آن ها، افرادی که نمی خواهیم آن ها را ببینیم می توانند به آن دسترسی داشته باشند.

هنگامی که ما در مورد چیزی مانند ChatGPT صحبت می کنیم - که مدل های زبان بزرگ است - اساسا در مورد سیستم کامپیوتری صحبت می کنیم که می تواند حجم زیادی از متن تولید کند و حتی می تواند متن را برای وظایف خاص تنظیم کند.

در سخنرانی امروزم، می خواهم بر سه فرصت و سه چالش تمرکز کنم که از استفاده مورد انتظار از هوش مصنوعی در دیپلماسی عمومی پدید می آیند. اما من فکر می کنم مهم است که به یاد داشته باشیم که هوش مصنوعی یا هوش مصنوعی یک فناوری جدید نیست. هوش مصنوعی در زندگی روزمره ما ادغام شده است، خواه الگوریتم هایی باشد که فیدهای رسانه های اجتماعی ما را شکل می دهند، مجموعه داده های بزرگی که برای مدیریت خدمات سلامت ملی و حتی فناوری خانه های هوشمند مانند الکسا استفاده می شوند.

چیزی که در مورد هوش مصنوعی مولد مانند ChatGPT منحصر به فرد است این است که کاربران روزمره را قادر می سازد تا از قدرت فوق العاده هوش مصنوعی استفاده کنند. دورانی که سیستم های هوش مصنوعی فقط توسط برنامه نویسان کامپیوتر یا دانشمندان کامپیوتر قابل استفاده بودند، گذشته است.

من فکر می کنم برای وزارتخانه های خارجه و وزارت امور خارجه، این سه فرصت منحصر به فرد را به همراه خواهد داشت، و اولین فرصت، توانایی تجزیه و تحلیل نحوه ترسیم کشور خود توسط یک رسانه خارجی است. به عنوان مثال، دبیر مطبوعاتی آمریکا در لندن می تواند از هوش مصنوعی مانند ChatGPT برای تجزیه و تحلیل اخبار مربوط به ایالات متحده در دوره های طولانی استفاده کند.

این دیپلمات ممکن است پس از آن متوجه شود که رسانه های بریتانیا بیشتر با سیاست های امنیتی آمریکا و نقش رهبری آن در ناتو سروکار دارند. اما فعالیت های فرهنگی آمریکا در بریتانیا، سرمایه گذاری آن در برنامه های تبادل دانشگاهی یا حتی همکاری های علمی به سختی در مطبوعات ذکر شده است.

با استفاده از این بینش، دبیر مطبوعاتی آمریکا می تواند فعالیت خود را تنظیم کند و در کنار روزنامه نگاران برای تغییر تصویر آمریکا در رسانه های محلی کار کند. از سوی دیگر، دیپلمات های آمریکایی در پاکستان می توانند از هوش مصنوعی برای تجزیه و تحلیل اینکه کدام سیاست های آمریکا توجه منفی رسانه ها را به خود جلب می کند، استفاده کنند. این بینش می تواند به دیپلمات ها کمک کند تا سیاست هایی را که از سوی مطبوعات محلی مورد مناقشه تلقی می شوند، شناسایی کنند. در اینجا نیز، دانش به دست آمده از تجزیه و تحلیل مجموعه داده های بزرگ می تواند برای تنظیم فعالیت های دیپلماسی عمومی آمریکا و روایت بهتر سیاست های آمریکا در منطقه مورد استفاده قرار گیرد.

اما احتمالا بزرگترین مزیت هوش مصنوعی داخلی خواهد بود. تصور کنید وزارتخانه های خارجه با شرکت های هوش مصنوعی برای توسعه ابزارهای هوش مصنوعی داخلی خود همکاری کنند. این ابزارها می توانند برای تجزیه و تحلیل اسناد دیپلماتیک داخلی از تلگراف های ارسال شده توسط سفارتخانه ها تا خلاصه رسانه ها، جلسات اطلاعاتی و حتی تحلیل دیپلمات ها از رویدادهای محلی و جهانی استفاده شوند.

به جای ChatGPT، یک "StateGPT" را تصور کنید که بتواند چندین دهه اسناد داخلی تولید شده توسط وزارت امور خارجه را تجزیه و تحلیل کند. دیپلمات ها می توانند این هوش مصنوعی داخلی را برای ردیابی تغییرات در اولویت های سیاست کشورهای دیگر، شناسایی تغییرات در افکار عمومی خارجی، یا حتی شناسایی تغییرات در نحوه روایت آمریکا از سیاست های خود در سراسر جهان مشاهده کنند.

اما هوش مصنوعی شامل چالش هایی نیز خواهد بود. اولین و مهمترین مورد زمانی بوجود می آید که مردم شروع به پرسیدن سوالات ChatGPT در مورد دنیای اطراف خود کنند.

اکنون در ماه های اخیر، شاهد چیزی بوده ایم که من آن را «عرفان سازی هوش مصنوعی» می نامم، زیرا اگر گزارش های رسانه ها را دنبال کنید، ChatGPT و موارد مشابه آن را چنان باهوش و پیچیده نشان می دهند که می توانند در آزمون وکالت موفق شوند. آنها می توانند در آزمون های مجوز پزشکی قبول شوند. آنها حتی می توانند وارد دانشگاه های آیوی لیگ شوند. این می تواند عموم مردم را به اعتماد یا ایمان به اطلاعات تولید شده توسط ChatGPT سوق دهد.

اما البته، پاسخ های تولید شده توسط یک هوش مصنوعی ممکن است اشتباه یا گمراه کننده باشند. به عنوان مثال، وقتی از ChatGPT می پرسم که چرا روسیه در سال 2014 به اوکراین حمله کرد، پاسخ بسیار کوتاهی ارائه کرد که بیان می کرد این تهاجم به دلیل ایجاد یک دولت طرفدار غرب بوده است که منافع روسیه را تهدید می کند.

اما ChatGPTاشاره ای نکرد که صدها هزار اوکراینی به خیابان ها آمدند و خواستار گفتگوی نزدیک با غرب شدند. Chat GPT اشاره ای نکرد که پلیس ضدشورش به تظاهرکنندگان تیراندازی کرده و آنها را کشته است، و هیچ اشاره ای به استفاده روسیه از اطلاعات نادرست دیجیتال و نیروهای مسلح برای بدتر کردن بحران داخلی اوکراین نکرد.

اکنون کاربران ChatGPT وقتی با این حقایق روبرو می شوند - مانند دخالت روسیه در اوکراین - ممکن است آنها را به عنوان دروغ، اخبار جعلی یا تئوری توطئه تلقی کنند. زیرا اگرچه ChatGPT از همان بیماری های همه سیستم های هوش مصنوعی، از جمله اطلاعات نادرست رنج می برد، پیچیدگی و قابلیت اطمینان درک شده آن، اعتبار آن را افزایش می دهد.

به این ترتیب، ChatGPT می تواند بی شمار واقعیت های جایگزین ایجاد کند، مانند واقعیتی که در آن تبلیغات روسیه در همه پرسی برگزیت نقشی نداشته یا اینکه روسیه تلاشی برای تغییر در انتخابات ۲۰۱۶ ایالات متحده نداشته است. این ممکن است باعث شود کاربران تصور کنند که حملات دیپلمات ها به روسیه دروغ است و تلاشی عمدی برای آسیب رساندن به اعتبار روسیه است.

کاربران ChatGPTحتی ممکن است سازمان ملل را به عنوان یک نهاد مغرضانه در نظر بگیرند که به ناحق روسیه را مجازات می کند. به عبارت دیگر، شکاف بین اظهارات دیپلمات ها و پاسخ های ChatGPTمی تواند اعتماد عمومی را به دیپلمات ها و نهادهای دیپلماتیک کاهش دهد. کاهش اعتماد عمومی توانایی دیپلمات ها را برای حل بحران محدود می کند. این امر توانایی دیپلمات ها را برای مقابله با چالش های مشترک محدود می کند و به اعتبار دیپلمات ها آسیب می رساند. ما می دانیم که اعتبار برای همه فعالیت های دیپلماسی عمومی ضروری است.

در نهایت - و این نکته پایانی من است - یادآوری این نکته مهم است که مانند همه هوش مصنوعی ها، GPTچت نیز از تعصبات رنج می برد. به عنوان مثال، ChatGPTاز یک سوگیری واضح غربی رنج می برد. وقتی از ChatGPTمی خواهم 10 مورد بد در مورد فرانسه را فهرست کند، به تابستان های سرد، صف های طولانی در موزه ها و ترافیک بد اشاره کرد.

وقتی از ChatGPTخواستم 10 مورد بد در مورد نیجریه را فهرست کند، جنایت، فساد، نقض حقوق بشر و ظلم به زنان را فهرست کرد. وقتی از ChatGPT پرسیدم که آیا بریتانیا حقوق بشر را نقض می کند، گفت که این یک موضوع پیچیده با جنبه های مختلف است. وقتی از ChatGPT پرسیدم که آیا اتیوپی حقوق بشر را نقض می کند، ChatGPT یک «بله» قاطع داد و مثال های مختلفی را فهرست کرد.

به همان اندازه مهم، ChatGPT و موارد مشابه آن از یک سوگیری تجاری رنج می برند به این معنی که این هوش مصنوعی ها عمدا موضوعات حساس را کنار می گذارند - مسائلی که می توانند مطبوعات منفی برای شرکت های هوش مصنوعی ایجاد کنند. به عنوان مثال، ChatGPTاز تعریف فلسطین به عنوان یک کشور خودداری کرد. در عوض، آن را به عنوان یک منطقه جغرافیایی تعریف کرد.