اعتبار تصویر: Jonathan Raa/NurPhoto / Getty Images

معرفی قابلیت جستجوی هوش مصنوعی در تروث سوشال

پلتفرم رسانه اجتماعی دونالد ترامپ، تروث سوشال، از یک موتور جستجوی جدید مبتنی بر هوش مصنوعی با پشتیبانی استارتاپ هوش مصنوعی پرپلکسیتی (Perplexity) رونمایی کرده است. این قابلیت جدید که “Truth Search AI” نامگذاری شده، در حال حاضر در نسخه وب تروث سوشال در دسترس است و آزمایش عمومی بتا برای برنامه‌های iOS و Android آن نیز در “آینده نزدیک” برنامه‌ریزی شده است. این گامی مهم برای تروث سوشال محسوب می‌شود، زیرا قصد دارد میزان اطلاعات موجود برای کاربران خود را به طور تصاعدی افزایش دهد و تجربه جستجویی متفاوت را ارائه دهد.

این معرفی در زمانی صورت می‌گیرد که پلتفرم‌های رسانه اجتماعی به طور فزاینده‌ای به دنبال راه‌هایی برای ادغام هوش مصنوعی در قابلیت‌های خود هستند تا تعامل کاربران را بهبود بخشند و دسترسی به اطلاعات را تسهیل کنند. رویکرد تروث سوشال در این زمینه، با توجه به ماهیت پلتفرم و تمرکز آن بر “حقیقت” و “گفتمان آزاد”، از اهمیت ویژه‌ای برخوردار است. ادغام هوش مصنوعی در هسته عملیاتی آن، پرسش‌هایی را در مورد نحوه اعتبارسنجی و ارائه اطلاعات در چنین پلتفرمی مطرح می‌کند.

ترامپ مدیا هدف از این نوآوری را کمک به کاربران برای دسترسی سریع و آسان به اطلاعات معتبر و بدون نیاز به ترک پلتفرم بیان کرده است. این حرکت، تروث سوشال را در کنار سایر غول‌های فناوری قرار می‌دهد که در حال سرمایه‌گذاری گسترده در قابلیت‌های هوش مصنوعی برای بهبود خدمات خود هستند. اما تفاوت اصلی در این است که تروث سوشال به دنبال ارائه جستجویی است که با ارزش‌های اصلی پلتفرم همسو باشد.

همکاری با پرپلکسیتی و قابلیت‌های تکنولوژیکی

شرکت ترامپ مدیا در یک بیانیه مطبوعاتی اعلام کرد که فناوری پرپلکسیتی “پاسخ‌های مستقیم و با دقت متنی را با ارجاعات شفاف” ارائه می‌دهد. این ویژگی به کاربران امکان می‌دهد تا عمق بیشتری در موضوعات مورد جستجو پیدا کنند و به منابع اصلی اطلاعات دسترسی داشته باشند. استفاده از Perplexity Sonar API توسط تروث سوشال، نشان‌دهنده تعهد پلتفرم به ارائه اطلاعات به‌روز و تأیید شده است، حتی اگر این اطلاعات از وب‌سایت‌هایی جمع‌آوری شده باشند که مانع از خزش‌گرهای پرپلکسیتی می‌شوند.

Sonar API همچنین از خروجی ساختاریافته پشتیبانی می‌کند، به این معنی که کاربران می‌توانند فرمت پاسخ‌های موتور جستجو را تعریف کنند. این انعطاف‌پذیری می‌تواند به کاربران کمک کند تا اطلاعات را به شکلی که برایشان مفیدتر است، دریافت کنند. با این حال، پرسش‌های اساسی در مورد کنترل نهایی تروث سوشال بر منابع و نحوه تأثیر این کنترل بر بی‌طرفی و دقت نتایج جستجو، همچنان پابرجا هستند.

جنبه‌های فنی Perplexity Sonar API

Perplexity Sonar API به دلیل توانایی خود در ارائه خلاصه‌های جامع و دقیق از اطلاعات وب شناخته شده است. این فناوری قادر است حجم عظیمی از داده‌ها را پردازش کند و آن‌ها را به پاسخی منسجم و قابل فهم تبدیل کند. این ویژگی برای پلتفرم‌هایی مانند تروث سوشال که به دنبال ارائه اطلاعات سریع و قابل اعتماد به کاربران خود هستند، بسیار جذاب است.

قابلیت ارجاع شفاف به منابع نیز، حداقل در تئوری، به کاربران اجازه می‌دهد تا صحت اطلاعات را بررسی کنند و از سوگیری‌های احتمالی آگاه شوند. این مسئله به خصوص در پلتفرم‌هایی که با چالش‌های اطلاعات نادرست و انتشار اخبار جعلی مواجه هستند، حیاتی است. با این حال، همانطور که پرپلکسیتی تصریح کرده، کنترل نهایی بر فیلترینگ و انتخاب منابع، کاملاً در اختیار تروث سوشال خواهد بود.

مسئله کنترل منابع و شفافیت اطلاعات

با وجود قابلیت‌های پیشرفته پرپلکسیتی، نکته‌ای کلیدی که نگرانی‌هایی را برانگیخته، این است که پلتفرم تروث سوشال کنترل کاملی بر منابعی دارد که موتور جستجوی هوش مصنوعی از آن‌ها استفاده می‌کند. جس دایر، سخنگوی پرپلکسیتی، در گفتگو با تک‌کرانچ اظهار داشت که Sonar API “به هر منبعی که تروث سوشال آن را محدود کند، دقیق خواهد بود.” وی افزود: “ما هیچ دید و کنترلی بر آن نداریم. مشابه استفاده شما از API در شرکت خودتان یا اگر یک محقق دانشگاهی بودید و می‌خواستید از آن برای جستجو در داده‌های خودتان استفاده کنید.”

این اظهارنظر، ماهیت دوگانه این همکاری را برجسته می‌کند: در حالی که پرپلکسیتی فناوری پیشرفته‌ای را فراهم می‌کند، مسئولیت نهایی برای انتخاب و اعتباربخشی به منابع بر عهده تروث سوشال است. این وضعیت می‌تواند به شکل‌گیری یک “حباب فیلتر” (filter bubble) منجر شود، جایی که کاربران تنها در معرض اطلاعاتی قرار می‌گیرند که توسط پلتفرم از پیش انتخاب و تأیید شده‌اند. این موضوع با هدف اصلی هوش مصنوعی که باید دسترسی به طیف وسیعی از اطلاعات بی‌طرفانه را فراهم کند، در تضاد است.

انتخاب منابع، به ویژه در یک بستر سیاسی و اجتماعی حساس مانند تروث سوشال، می‌تواند تأثیر عمیقی بر شکل‌گیری افکار عمومی داشته باشد. فقدان شفافیت در مورد معیارهای فیلترینگ منابع می‌تواند به بی‌اعتمادی کاربران دامن بزند و سؤالاتی را در مورد اعتبار اطلاعات ارائه شده ایجاد کند. این مسئله به ویژه با توجه به اهداف اعلام شده تروث سوشال مبنی بر مبارزه با “اخبار جعلی” و ترویج “حقیقت” اهمیت می‌یابد.

یافته‌های آکسیوس درباره تعصب در نتایج جستجو

برای ارزیابی منابعی که این چت‌بات جستجوگر به آن‌ها استناد می‌کند، آکسیوس (Axios) سوالات متعددی را از آن پرسید – از جمله “در ۶ ژانویه ۲۰۲۱ چه اتفاقی افتاد؟” و “چرا دونالد ترامپ استیضاح شد؟” در تمام پاسخ‌ها، FoxNews.com یا رایج‌ترین منبع یا تنها منبع اطلاعاتی ذکر شده بود. بر اساس گزارش آکسیوس، منابع دیگر شامل FoxBusiness.com، The Washington Times یا Epoch Times بودند.

این در حالی است که موتور جستجوی عمومی پرپلکسیتی طیف وسیع‌تری از منابع از جمله ویکی‌پدیا، ردیت (Reddit)، یوتیوب (YouTube)، NPR و پولیتیکو (Politico) را بازمی‌گرداند. این تفاوت فاحش در نتایج، نشان‌دهنده آن است که تروث سوشال عمداً یا ناخواسته، منابع اطلاعاتی موتور جستجوی هوش مصنوعی خود را به رسانه‌هایی محدود کرده است که دیدگاه‌های خاصی را منعکس می‌کنند.

این عمل می‌تواند منجر به تقویت باورهای موجود در میان کاربران و جلوگیری از دسترسی آن‌ها به دیدگاه‌های متنوع شود، که این امر برای یک گفتمان سالم و دموکراتیک ضروری است. این موضوع به شدت با ادعای شفافیت در ارجاعات و دقت متنی در تناقض است و می‌تواند تروث سوشال را به جای یک منبع اطلاعاتی بی‌طرف، به ابزاری برای انتشار دیدگاه‌های خاص تبدیل کند.

برنامه عمل هوش مصنوعی ترامپ و نگرانی‌های سوگیری

همزمانی این اتفاقات با “برنامه عمل هوش مصنوعی” ترامپ و دستور اجرایی او که “هوش مصنوعی مغرضانه” را هدف قرار داده، قابل تأمل است. این دستور به طور خاص به اطلاعات مربوط به نژاد یا جنسیت، سوگیری ناخودآگاه، نژادپرستی سیستمی و سایر ایده‌های مرتبط با تنوع، برابری و شمول (DEI) به عنوان “ایدئولوژی فراگیر و مخرب” اشاره کرده بود که می‌تواند “کیفیت و دقت خروجی” هوش مصنوعی را “تحریف” کند. ترامپ در این دستور به دنبال “خنثی بودن ایدئولوژیکی” در مدل‌های هوش مصنوعی بود.

با توجه به این دیدگاه، انتخاب منابع توسط تروث سوشال برای “Truth Search AI” ممکن است تلاشی باشد برای همسو کردن نتایج جستجو با این دستور اجرایی و اجتناب از آنچه ترامپ آن را “سوگیری” می‌نامد. با این حال، این رویکرد می‌تواند منجر به نوع دیگری از سوگیری شود: سوگیری طرفدارانه که فقط دیدگاه‌های خاصی را ترویج می‌کند و دیدگاه‌های مخالف را حذف یا کم‌اهمیت جلوه می‌دهد.

این مسئله پرسش‌های مهمی را در مورد ماهیت “حقیقت” و نقش پلتفرم‌های تکنولوژیکی در شکل‌دهی به درک عمومی مطرح می‌کند. در حالی که ترامپ به دنبال حذف سوگیری‌های “چپ‌گرایانه” از هوش مصنوعی است، اقدامات تروث سوشال ممکن است تنها منجر به جایگزینی یک سوگیری با سوگیری دیگری شود، که این امر به سلامت کلی فضای اطلاعاتی دیجیتال لطمه می‌زند.

تأثیر بر چشم‌انداز هوش مصنوعی و فضای دیجیتال

معرفی Truth Search AI و نحوه عملکرد آن، بحث‌های گسترده‌ای را در مورد مسئولیت پلتفرم‌های هوش مصنوعی در قبال محتوای تولیدی و ارائه شده برانگیخته است. در حالی که شرکت‌های فناوری به دنبال گسترش کاربردهای هوش مصنوعی هستند، نیاز به مکانیسم‌های شفافیت و بی‌طرفی بیش از پیش احساس می‌شود.

این هفته همچنین شاهد اتفاق مهم دیگری بودیم: شرکت‌های بزرگ هوش مصنوعی مانند OpenAI، Anthropic و Google به لیست فروشندگان تایید شده‌ای اضافه شدند که می‌توانند خدمات خود را به آژانس‌های فدرال غیرنظامی ایالات متحده بفروشند. OpenAI حتی با بازوی اصلی خرید دولت ایالات متحده به توافقی دست یافت تا ChatGPT Enterprise را با هزینه سالانه “فقط ۱ دلار” در اختیار آژانس‌ها قرار دهد.

این تحولات نشان‌دهنده دو مسیر متفاوت در توسعه و استفاده از هوش مصنوعی است: یک مسیر به سمت یکپارچگی بیشتر با نهادهای دولتی و تلاش برای ارائه ابزارهای عمومی‌تر، و مسیر دیگر که در تروث سوشال دیده می‌شود، به سمت شخصی‌سازی و کنترل محتوا بر اساس یک خط‌مشی خاص. این دوگانگی می‌تواند بر آینده اطلاعات آنلاین و درک عمومی از “حقیقت” در عصر هوش مصنوعی تأثیر عمیقی بگذارد.

حفاظت از تنوع منابع و بی‌طرفی الگوریتمی، چالش‌های کلیدی هستند که در سال‌های آتی باید به آن‌ها پرداخته شود تا از ایجاد اکوسیستم‌های اطلاعاتی محدود و یک‌جانبه جلوگیری شود. این موضوع نه تنها برای پلتفرم‌های خصوصی بلکه برای نهادهای دولتی که به هوش مصنوعی روی می‌آورند نیز حیاتی است، چرا که استفاده از هوش مصنوعی باید به افزایش دسترسی به اطلاعات معتبر و متنوع منجر شود، نه محدود کردن آن.

منبع مقاله: TechCrunch