رصدخبر | جامعه ؛ چت‌جی‌پی‌تی، پرکاربردترین چت‌بات هوش مصنوعی جهان، بار دیگر زیر ذره‌بین قرار گرفته است؛ این بار پس از آنکه اسکای نیوز فاش کرد این برنامه هوش مصنوعی متن کامل یک قسمت پادکست «سیاست با سم و آن» که تولید کرده جعلی است. این اتفاق پرسش مهمی را پیش می‌کشد: آیا واقعا می‌توان به سیستم هوش مصنوعی که با چنین اطمینانی مطالب نادرست تحویل می‌دهد اعتماد کرد؟

اسکای نیوز در یک ویدیو نشان می‌دهد که چگونه چت‌جی‌پی‌تی نه تنها گفت‌وگوهایی خیالی ساخته، بلکه وقتی به چالش کشیده شده، بر ادعاهای نادرستش پافشاری کرده است. فقط پس از فشار مستمر بود که این چت‌بات از موضعش عقب‌نشینی کرد.

این رفتار که در اصطلاح هوش مصنوعی «توهم» (Hallucination) نام دارد، به مواردی اشاره می‌کند که مدل با اطمینان پاسخ‌هایی نادرست، گمراه‌کننده یا کاملا خیالی ارائه می‌دهد. موضوع نگران‌کننده‌تر این است که نتایج آزمون‌های داخلی شرکت اوپن‌ای‌‌آی، سازنده چت‌جی‌پی‌تی، نشان می‌دهد که این مشکل رو به وخامت است.

طبق بررسی این شرکت، نسخه جی‌پی‌تی‌-۴او-مینی (GPT-4o-mini) در ۴۸ درصد موارد و نسخه او۳ (o3) در ۳۳ درصد مواقع اطلاعات نادرست تولید کرده است، آن هم در پاسخ به پرسش‌هایی با تکیه بر داده‌های عمومی مطرح شده بودند. این آمار روند نگران‌کننده‌ای را نشان می‌دهد: هرچه مدل‌ها روان‌تر و شبیه‌تر به انسان می‌شوند، دروغ‌هایشان نیز متقاعدکننده‌تر جلوه می‌کند.

وقتی از چت‌جی‌پی‌تی درباره دلیل این وضعیت سوال شد، چهار مورد را ذکر کرد:

۱. روان‌تر شدن گفتار: چت‌بات حالا طبیعی‌تر و انسانی‌تر به نظر می‌رسد و همین باعث می‌شود خطاهایش بیشتر عمدی جلوه کند تا تصادفی.

۲. باهوش‌تر ولی نه همه‌چیزدان: اگرچه مدل سریع‌تر و پاسخگوتر شده، هنوز خلاءهای اطلاعاتی دارد و آن‌ها را با اطمینان پر می‌کند، حتی اگر اشتباه باشد.

۳. کاهش استفاده از عبارات احتیاطی: نسخه‌های قدیمی‌تر عبارت‌هایی مانند «ممکن است اشتباه کنم» را بیشتر به کار می‌بردند. نسخه‌های جدید این عبارت‌ها را برای افزایش خوانایی حذف کرده‌اند.

۴. تنظیمات پشت‌پرده و تعادل در آموزش: تغییراتی که در پشت صحنه برای تنظیم مدل انجام می‌شود ممکن است ویژگی اعتمادبه‌نفس را بیش از حد تقویت کرده و از دقت و فروتنی کاسته باشد.

اما آیا حتی به این توضیح چت‌جی‌پی‌تی می‌توان اعتماد کرد؟ تلاش توسعه‌دهندگان برای انسانی‌تر جلوه دادن این فناوری نشان می‌دهد که می‌خواهند ما چنین احساسی داشته باشیم.

منتقدان می‌گویند وقتی می‌گوییم هوش مصنوعی «دروغ می‌گوید»، در واقع آن را انسان‌واره می‌کنیم، چون این سیستم‌ها آگاهی ندارندــ اما در عین حال توسعه‌دهندگان در تلاش‌اند که آن را بیشتر شبیه ما جلوه دهند.

وقتی اسکای نیوز درباره دروغ گفتن از چت‌جی‌پی‌تی سوال کرد، باز هم طفره رفت، ابتدا ادعا کرد اوضاع بهتر شده است، اما وقتی کاربر اصرار کرد که آمار را بررسی کند، پذیرفت که شرایط بدتر شده است.

بی‌تردید هوش مصنوعی ابزاری شگفت‌انگیز است، اما شاید هنوز خیلی زود باشد که چشم‌بسته به آن اعتماد کرد.

The post آیا می‌توان به چت‌جی‌پی‌تی اعتماد کرد؟ appeared first on سایت خبری تحلیلی رصد خبر.

بر اساس گزارش وب‌سایت دِ ورج که سه‌شنبه ۱۵ آوریل (۲۶ فروردین) با استناد به منابع متعدد آگاه به موضوع منتشر کرده، یک نسخه اولیه داخلی از پروژه شبکه اجتماعی جدید اوپن اِی‌آی وجود دارد که بر قابلیت تولید تصویر چت‌جی‌پی‌تی (ChatGPT) متمرکز است و شامل یک فید اجتماعی (social feed) می‌شود.

به گفته وبسایت دِ ورج (The Verge)، سام آلتمن، مدیرعامل اوپن اِی‌آی (OpenAI) به صورت خصوصی از افراد بیرون سازمان بازخوردهایی در مورد این پروژه که هنوز در مراحل ابتدایی توسعه قرار دارد، درخواست کرده است.

هنوز مشخص نیست که آیا این شرکت قصد دارد این شبکه اجتماعی را به عنوان یک اپلیکیشن جداگانه عرضه کند یا آن را در چارچوب چت‌جی‌پی‌تی (ChatGPT) ادغام کند.

اوپن اِی‌آی به درخواست خبرگزاری رویترز برای اظهارنظر درباره این گزارش، واکنشی فوری نشان نداده است.

این اقدام احتمالی می‌تواند تنش‌ها میان سام آلتمن و ایلان ماسک را افزایش دهد. ماسک که مالک شبکه ایکس و یکی از بنیان‌گذاران اوپن‌اِی‌آی بوده است، در سال ۲۰۱۸ از این استارتاپ جدا شد؛ پیش از آن‌که اوپن اِی‌آی به پیشگام حوزه هوش مصنوعی مولد تبدیل شود.

در ماه‌های اخیر، این درگیری بیشتر هم شده است. در ماه فوریه، گروهی از سرمایه‌گذاران به رهبری ایلان ماسک پیشنهادی به ارزش ۹۷.۴ میلیارد دلار برای خرید اوپن‌اِی‌آی ارائه کردند، که سام آلتمن با یک “نه، ممنون” سریع آن را رد کرد.

ماسک سال گذشته از اوپن اِی‌آی و آلتمن شکایت کرد و مدعی شد که آن‌ها هدف اصلی اوپن اِی‌آی، یعنی توسعه هوش مصنوعی به نفع بشریت و نه برای منافع تجاری را کنار گذاشته‌اند.

در مقابل، اوپن اِی‌آی در اوایل ماه جاری آوریل از ماسک شکایت کرد و او را متهم به “الگوی آزار و اذیت” و تلاش برای بر هم زدن مسیر این شرکت در حرکت به سمت مدل سودآور کرد. این دو طرف قرار است بهار سال آینده در دادگاهی با حضور هیئت منصفه مقابل هم قرار بگیرند.

شبکه اجتماعی احتمالی اوپن اِی‌آی همچنین می‌تواند این شرکت را وارد رقابت مستقیم با متا (شرکت مادر فیسبوک) کند که گزارش شده در حال توسعه یک سرویس مستقل هوش مصنوعی به نام مِتا اِی‌آی (Meta AI) است.

در ماه فوریه، آلتمن در پاسخ به گزارش رسانه‌ها درباره برنامه‌های متا در شبکه ایکس نوشت: «باشه، شاید ما هم یه اپلیکیشن اجتماعی بسازیم.»

هر دو شرکت متا و ایکس به حجم عظیمی از داده‌ها، یعنی محتوای عمومی که کاربران در شبکه‌های اجتماعی‌شان منتشر می‌کنند، دسترسی دارند که از آن برای آموزش مدل‌های هوش مصنوعی خود استفاده می‌کنند.

The post اوپن‌اِی‌آی می‌خواهد شبکه اجتماعی مشابه ایکس بسازد appeared first on سایت خبری تحلیلی رصد خبر.

کاربران برای عقب نماندن از ترند تولید تصویر چت جی‌پی‌تی، به آن هجوم برده‌اند

به‌گزارش Engadget، شرکت اوپن ای‌آی به‌سرعت در حال تجربه افزایش تصاعدی تعداد کاربران چت جی‌پی‌تی است. یکی از اصلی‌ترین دلایل این موضوع، ترند جدیدی است که اخیراً در فضای مجازی فراگیر شده و کاربران زیادی در آن شرکت کرده‌اند.

در این ترند تازه، کاربران از ویژگی تولید تصویر چت جی‌پی‌تی استفاده می‌کنند که به‌لطف مدل ۴o، حالا در دسترس طیف گسترده‌ای از افراد قرار گرفته است. به‌همین ترتیب شما می‌توانید تصویر خود را در این چت‌بات آپلود کرده و آن را با تم و استایل‌های مختلف تحویل بگیرید. یکی از محبوب‌ترین استایل‌های مورد استفاده در این فرایند نیز مربوط به استودیو جیبیلی ژاپن بوده که اصلی‌ترین محرک کاربران برای ثبت‌نام در چت جی‌پی‌تی محسوب می‌شود.

در راستای جذب تعداد بالای کاربران جدید در چت جی‌پی‌تی، سم آلتمن در ایکس به این موضوع واکنش نشان داده و گفته:

انتشار چت جی‌پی‌تی که ۲۶ ماه پیش اتفاق افتاد یکی از لحظات دیوانه‌وار در سراسر اینترنت بود و ما در آن زمان ۱ میلیون کاربر را در ۵ روز جذب کردیم. این‌بار نیز ۱ میلیون کاربر طی ساعت گذشته اضافه شدند.

چنین امری شاید بزرگ‌ترین زنگ خطر برای رقبای چت جی‌پی‌تی باشد؛ زیرا این روزها کم‌تر از آن‌ها نامی برده می‌شود و تمام تمرکز کاربران به ویژگی جدید محصول اوپن ای‌آی معطوف شده است. بنابراین دور از انتظار نیست که گراک، دیپ‌سیک و سایر بازیگران مطرح این حوزه سراغ ارائه قابلیت‌های مشابه بروند.

The post هجوم کاربران به چت جی‌پی‌تی؛ ۱ میلیون کاربر جدید در ساعت appeared first on سایت خبری تحلیلی رصد خبر.

آنها ادعا می‌کنند که این شرکت بطورغیرقانونی از مقالات آنها برای آموزش مدل‌های زبان «چت جی‌پی‌تی» (ChatGPT) استفاده کرده است.

این روزنامه‌ها خواستار جبران خسارت قابل توجهی برای هر مقاله‌ای شده‌اند که به‌طور غیرقانونی استفاده شده است.

در مقابل شرکت «اوپن اِی‌آی» تاکید کرده که مدل‌هایش «بر اساس داده‌های در دسترس عموم آموزش‌دهی شده‌اند.»

این شرکت همچنین گفته است که با ناشران خبر همکاری کرده و همچنین گزینه‌ای برای عدم استفاده از محتوای آن‌ها ارائه می‌دهد.

اوپن ای‌آی در بیانیه‌ای به بی‌بی‌سی اعلام کرد: «این نرم‌افزار مبتنی بر استفاده منصفانه و اصول کپی رایت بین‌المللی است که برای سازندگان عادلانه است و از نوآوری پشتیبانی می‌کند.»

این شکایت بخشی از مجموعه‌ای از پرونده‌های حقوقی علیه شرکت «اوپن اِی آی» و دیگر شرکت‌های فناوری است.

ائتلاف رسانه‌های کانادا در پرونده ۸۴ صفحه‌ای خود، شرکت «اوپن اِی آی» را متهم کرده که از تدابیر حفاظتی، مانند روش محدود کردن دسترسی به محتوا که نیازمند خرید یا اشتراک پولی خبر است، یا اعلامیه‌های حقوقی که برای جلوگیری از کپی‌برداری غیرمجاز محتوا طراحی شده‌اند، غافل شده است.

این روزنامه‌ها گفته‌اند: «اوپن اِی آی به طور منظم قوانین کپی‌رایت و شرایط استفاده آنلاین را نقض می‌کند و بخش‌های بزرگی از محتوای رسانه‌های کانادایی را برای کمک به توسعه محصولات خود، مانند چت جی‌پی‌تی، استخراج می‌کند.»

این گروه که ناشران برترین روزنامه‌های کانادا را شامل می‌شود، خواستار دریافت خسارتی به مبلغ ۲۰ هزاردلار کانادا برای هر مقاله‌ای هستند که ادعا می‌کنند به‌ طور غیرقانونی برای آموزش «چت جی‌پی‌تی» استفاده شده است؛ مبلغی که می‌تواند به میلیاردها دلار برسد.

سازمان‌های خبری همچنین خواهان حکمی هستند که این شرکت را مجبور کند سودهای حاصل از استفاده از مقالات خود را به اشتراک بگذارد و همچنین درخواست صدور دستور ممانعت استفاده این شرکت از مقالات در آینده را دارند.

در حالی که شکایت از «اوپن اِی آی» برای ناشران کانادایی اولین بار است که اتفاق می‌افتد، سال گذشته شکایت مشابهی توسط نیویورک تایمز و دیگر ناشران در آمریکا مطرح شد. در ماه آوریل، وکلای روزنامه تایمز «اوپن اِی آی» را متهم کردند که شواهد مورد نیاز برای محاکمه را از بین برده است.

در پرونده دیگری، انجمن نویسندگان و گروهی از نویسندگان بزرگ از جمله جان گریشام نیز ادعای نقض حقوق کپی‌رایت از سوی این شرکت را کرده‌اند.

The post شکایت رسانه‌ های کانادایی از اوپن‌ای‌آی appeared first on سایت خبری تحلیلی رصد خبر.

برکناری آلتمن که به دلیل اختلاف نظر با هیئت‌مدیره در مورد استراتژی شرکت صورت گرفت، باعث اعتراضات گسترده کارکنان اوپن‌ای‌آی شد. بیش از ۷۰۰ کارمند این شرکت تهدید به استعفا کرده‌اند و خواستار برکناری هیئت‌ مدیره هستند.

سرمایه‌گذاران اوپن‌ای‌آی نیز نگران خروج احتمالی کارمندان و ضررهای مالی قابل توجه برای شرکت هستند.

ساختار سازمانی اوپن‌ای‌آی به گونه‌ای است که این شرکت توسط یک شرکت مادر غیرانتفاعی کنترل می‌شود. این موضوع باعث شده است که سرمایه‌گذاران سنتی از اقدامات هیئت‌مدیره این شرکت ناراضی باشند.

ساتیا نادلا، مدیرعامل شرکت مایکروسافت، چند روز پس از اخراج سام آلتمن از شرکت اوپن‌ای‌آی، او و سایر اعضای تیمش را استخدام کرد.

آلتمن که سال گذشته با راه اندازی چت ربات هوش مصنوعی به شهرت رسید، در حساب ایکس خود نوشت: «ماموریت ادامه دارد.»

نادلا نیز در حساب ایکس خود خبر داد که آلتمن به همراه گریگ براکمن، دیگر بنیانگذار اوپن‌ای‌آی و همکارانشان، «به مایکروسافت می‌پیوندد تا یک تیم تحقیقاتی جدید هوش مصنوعی پیشرفته را رهبری کند.»

The post سرمایه‌گذاران از هیات مدیره اوپن‌ای‌آی به دلیل برکناری مدیرعامل شکایت می‌کنند appeared first on سایت خبری تحلیلی رصد خبر.