رصدخبر | جامعه؛  سم آلتمن، مدیرعامل شرکت OpenAI، روز پنج‌شنبه ۱۹ فوریه در یک کنفرانس جهانی هوش مصنوعی گفت که فناوری در این زمینه در حال تحول سریع است و باید به‌طور فوری تحت نظارت و قانون‌گذاری قرار گیرد.

او در این نشست که در دهلی‌نو برگزار شد، پیشنهاد کرد که نهادی برای هماهنگی بین‌المللی مشابه آژانس بین‌المللی انرژی اتمی ایجاد شود.

آلتمن در این کنفرانس گفت: «برای مثال به‌زودی مدل‌های زیستی بسیار قدرتمندی به‌صورت متن‌باز در دسترس خواهند بود که می‌توانند به افراد در ایجاد پاتوژن‌های جدید کمک کنند. ما به یک رویکرد سراسری در سطح جامعه نیاز داریم تا بدانیم چگونه باید در برابر این تهدیدها دفاع کنیم.»

پاتوژن‌ها عوامل بیماری‌زا مانند ویروس‌ها، باکتری‌ها یا سموم هستند.

تقاضای پرشتاب برای هوش مصنوعی مولد باعث افزایش چشمگیر سود بسیاری از شرکت‌ها شده، اما هم‌زمان نگرانی‌هایی درباره خطرات آن برای افراد و حتی سیاره زمین ایجاد کرده است.

آلتمن گفت: «دموکراتیزه کردن هوش مصنوعی بهترین راه برای شکوفایی بشریت است.» او افزود: «تمرکز این فناوری در دست یک شرکت یا یک کشور می‌تواند به فاجعه منجر شود.»

او تأکید کرد: «این به آن معنا نیست که به مقررات یا سازوکارهای حفاظتی نیاز نداریم. بدیهی است که نیاز داریم، آن هم فوراً، همان‌طور که برای دیگر فناوری‌های قدرتمند چنین کرده‌ایم.»

بسیاری از پژوهشگران و فعالان مدنی خواستار اقدامات قوی‌تری برای مقابله با چالش‌های نوظهور شده‌اند؛ از جمله اختلال در بازار کار، دیپ‌فیک‌های جنسی و کلاهبرداری‌های آنلاین مبتنی بر هوش مصنوعی.

او هشدار داد: «چند سال آینده جامعه جهانی را محک خواهد زد، زیرا این فناوری با سرعت زیادی در حال پیشرفت است. ما می‌توانیم انتخاب کنیم که مردم را توانمند کنیم یا قدرت را متمرکز سازیم.»
آلتمن همچنین گفت: «فناوری همواره مشاغل را دگرگون می‌کند؛ اما ما همیشه کارهای جدید و بهتری برای انجام دادن پیدا می‌کنیم.»

به گفته او، چت‌بات هوش مصنوعی مولد چت چی‌پی‌تی در هند ۱۰۰ میلیون کاربر هفتگی دارد که بیش از یک‌سوم آن‌ها دانشجو هستند.

@dw_

The post مدیرعامل چت‌جی‌پی‌تی : جهان به مقررات‌در حوزه هوش مصنوعی نیاز دارد appeared first on سایت خبری تحلیلی رصد خبر.

رصدخبر | جامعه؛ پژوهشگران در دانشگاه آلتو فنلاند، همراه با محققانی از آلمان و کانادا، دریافته‌اند که هوش مصنوعی اعتمادبه‌نفس را در همه یکسان و بیش از حد بالا می‌برد.

طبق این پژوهش وقتی شرکت‌کنندگان برای حل مسائل از چت‌بات‌هایی مانند چت جی‌پی‌تی استفاده کردند، تقریبا همه آن‌ها (صرف‌نظر از مهارت واقعی) بیش از حد به کیفیت پاسخ‌ها اعتماد کردند.

جالب‌تر این‌که افرادی که بیشتر از هوش مصنوعی استفاده می‌کردند، این اعتماد بی‌جا را بیشتر نشان دادند.

رابین ولش، یکی از نویسندگان پژوهش، می‌گوید: «ما انتظار داشتیم افرادِ آشنا با هوش مصنوعی بتوانند عملکرد خود را دقیق‌تر بسنجند، اما یافته‌های ما نشان داد که مردم در تشخیص عملکرد واقعی‌شان، حتی با وجود تجربه زیاد استفاده از هوش مصنوعی ضعیف عمل می‌کنند.»

«کم‌عمق شدن» تفکر به‌علت اتکای بیش از حد به پاسخ ‌هوش مصنوعی

در این پژوهش، ۵۰۰ نفر مجموعه‌ای از مسائل استدلال منطقی را حل کردند و نیمی اجازه داشتند از چت‌جی‌پی‌تی کمک بگیرند. سپس از آن‌ها خواسته شد هم توانایی خودشان و هم مهارت‌شان در استفاده از هوش مصنوعی را ارزیابی کنند.
افرادی که از ‌هوش مصنوعی استفاده کردند، معمولا بعد از همان پاسخ اول قانع می‌شدند و کمتر به بررسی بیشتر، پرسش دوباره و یا سنجش انتقادی پاسخ می‌پرداختند.
در واقع پژوهش نشان داد کاربرانی که از ‌هوش مصنوعی کمک می‌گیرند مهارت خود را بیش از حد برآورد می‌کنند و مستقل از هوش، توانایی یا تجربه‌شان، اعتمادبه‌نفس نادرست پیدا می‌کنند.

در عین حال از آن‌جا که ‌هوش مصنوعی تا حدودی عملکرد همه را بهتر می‌کند، همه از جمله افراد کم‌مهارت، به یک میزان احساس توانایی می‌کنند. حتی اگر این احساس درست نباشد.

خطرات: تصمیم‌گیری بد، تحلیل کمتر و تضعیف مهارت‌های انسانی

پژوهشگران هشدار می‌دهند که این روند می‌تواند پیامدهای گسترده‌ای داشته باشد.

این پیامدها شامل کاهش توانایی انسان‌ها در بررسی انتقادی اطلاعات، افزایش تصمیم‌گیری‌های اشتباه به‌دلیل اعتماد بی‌جا به خود و به ‌هوش مصنوعی و از دست رفتن مهارت‌های شناختی، به‌ویژه مهارت‌های تحلیلی و ارزیابی و بدتر شدن «دقت فراشناختی» (یعنی توانایی تشخیص درستی یا نادرستی عملکرد خود) می‌شود.

در حقیقت با فراگیر شدن هوش مصنوعی، این خطر وجود دارد که توانایی‌های تحلیلی و انتقادی انسان‌ها به‌تدریج تضعیف شود.

چاره چیست؟

به‌گفته پژوهشگران، بخشی از راه‌حل این است که هوش مصنوعی باید طوری طراحی شود که کاربران را به پرسیدن دوباره، سنجش، و تفکر انتقادی ترغیب کند.
مثلا با پرسیدن سؤال‌هایی مانند چقدر به این پاسخ اطمینان دارید؟، چه گزینه‌ای ممکن است از قلم افتاده باشد؟ و آیا منابع دیگری را بررسی کرده‌اید؟، وضعیت در این خصوص می‌تواند بهتر شود.

نتایج پژوهش تازه قرار است در شماره آینده نشریه علمی «Computers in Human Behavior» منتشر شود.

The post هوش مصنوعی «توهم دانایی» می‌آورد appeared first on سایت خبری تحلیلی رصد خبر.

رصدخبر | جامعه ؛ چت‌جی‌پی‌تی، پرکاربردترین چت‌بات هوش مصنوعی جهان، بار دیگر زیر ذره‌بین قرار گرفته است؛ این بار پس از آنکه اسکای نیوز فاش کرد این برنامه هوش مصنوعی متن کامل یک قسمت پادکست «سیاست با سم و آن» که تولید کرده جعلی است. این اتفاق پرسش مهمی را پیش می‌کشد: آیا واقعا می‌توان به سیستم هوش مصنوعی که با چنین اطمینانی مطالب نادرست تحویل می‌دهد اعتماد کرد؟

اسکای نیوز در یک ویدیو نشان می‌دهد که چگونه چت‌جی‌پی‌تی نه تنها گفت‌وگوهایی خیالی ساخته، بلکه وقتی به چالش کشیده شده، بر ادعاهای نادرستش پافشاری کرده است. فقط پس از فشار مستمر بود که این چت‌بات از موضعش عقب‌نشینی کرد.

این رفتار که در اصطلاح هوش مصنوعی «توهم» (Hallucination) نام دارد، به مواردی اشاره می‌کند که مدل با اطمینان پاسخ‌هایی نادرست، گمراه‌کننده یا کاملا خیالی ارائه می‌دهد. موضوع نگران‌کننده‌تر این است که نتایج آزمون‌های داخلی شرکت اوپن‌ای‌‌آی، سازنده چت‌جی‌پی‌تی، نشان می‌دهد که این مشکل رو به وخامت است.

طبق بررسی این شرکت، نسخه جی‌پی‌تی‌-۴او-مینی (GPT-4o-mini) در ۴۸ درصد موارد و نسخه او۳ (o3) در ۳۳ درصد مواقع اطلاعات نادرست تولید کرده است، آن هم در پاسخ به پرسش‌هایی با تکیه بر داده‌های عمومی مطرح شده بودند. این آمار روند نگران‌کننده‌ای را نشان می‌دهد: هرچه مدل‌ها روان‌تر و شبیه‌تر به انسان می‌شوند، دروغ‌هایشان نیز متقاعدکننده‌تر جلوه می‌کند.

وقتی از چت‌جی‌پی‌تی درباره دلیل این وضعیت سوال شد، چهار مورد را ذکر کرد:

۱. روان‌تر شدن گفتار: چت‌بات حالا طبیعی‌تر و انسانی‌تر به نظر می‌رسد و همین باعث می‌شود خطاهایش بیشتر عمدی جلوه کند تا تصادفی.

۲. باهوش‌تر ولی نه همه‌چیزدان: اگرچه مدل سریع‌تر و پاسخگوتر شده، هنوز خلاءهای اطلاعاتی دارد و آن‌ها را با اطمینان پر می‌کند، حتی اگر اشتباه باشد.

۳. کاهش استفاده از عبارات احتیاطی: نسخه‌های قدیمی‌تر عبارت‌هایی مانند «ممکن است اشتباه کنم» را بیشتر به کار می‌بردند. نسخه‌های جدید این عبارت‌ها را برای افزایش خوانایی حذف کرده‌اند.

۴. تنظیمات پشت‌پرده و تعادل در آموزش: تغییراتی که در پشت صحنه برای تنظیم مدل انجام می‌شود ممکن است ویژگی اعتمادبه‌نفس را بیش از حد تقویت کرده و از دقت و فروتنی کاسته باشد.

اما آیا حتی به این توضیح چت‌جی‌پی‌تی می‌توان اعتماد کرد؟ تلاش توسعه‌دهندگان برای انسانی‌تر جلوه دادن این فناوری نشان می‌دهد که می‌خواهند ما چنین احساسی داشته باشیم.

منتقدان می‌گویند وقتی می‌گوییم هوش مصنوعی «دروغ می‌گوید»، در واقع آن را انسان‌واره می‌کنیم، چون این سیستم‌ها آگاهی ندارندــ اما در عین حال توسعه‌دهندگان در تلاش‌اند که آن را بیشتر شبیه ما جلوه دهند.

وقتی اسکای نیوز درباره دروغ گفتن از چت‌جی‌پی‌تی سوال کرد، باز هم طفره رفت، ابتدا ادعا کرد اوضاع بهتر شده است، اما وقتی کاربر اصرار کرد که آمار را بررسی کند، پذیرفت که شرایط بدتر شده است.

بی‌تردید هوش مصنوعی ابزاری شگفت‌انگیز است، اما شاید هنوز خیلی زود باشد که چشم‌بسته به آن اعتماد کرد.

The post آیا می‌توان به چت‌جی‌پی‌تی اعتماد کرد؟ appeared first on سایت خبری تحلیلی رصد خبر.

پاسخ فردین علیخواه به انتقادها درباره نگاه بدبینانه به هوش مصنوعی را می‌خوانید.

مهارت‌هایمان را یکی پس از دیگری به هوش مصنوعی بسپاریم، قبول. در نهایت قرار است ما چه کاری انجام دهیم؟

برخی دوستان پس از خواندن مصاحبه‌هایم درباره هوش مصنوعی پیام داده‌اند که تو بیش از حد بدبین هستی. با نشانه‌های ملموسی که این روزها در پیرامونم می‌بینم و با مهارت‌ها و توانایی‌هایی که هر روز یک به یک از دست می‌دهیم دلایل بسیاری برای بدبین بودن دارم. در اینجا یک پرسش اساسی وجود دارد: هر روز قرار است مهارت‌هایمان را یکی پس از دیگری به هوش مصنوعی بسپاریم، قبول. در نهایت قرار است ما چه کاری انجام دهیم؟ از دست دادن برای به دست آوردن چه چیزی؟ مدام داریم قفسه‌ها را خالی می‌کنیم تا جای خالی را با چه چیزی پر کنیم؟ می‌رویم تا شاهد آمدن چه کسی باشیم؟ ترک می‌کنیم تا رسیدن چه کسی را ببینیم؟

دیروز جُستاری حدوداً هفت‌صفحه‌ای را به چ.ج.ب.ت. دادم و گفتم چکیده‌اش را به من بده. بگذارید صادقانه بگویم. اولین بار بود این کار را می‌کردم چون به عمد نمی‌خواهم تک‌تک توانایی‌هایم را از دست بدهم. چون نگرانم. تکنوفوبیا (هراس از تکنولوژی جدید) ندارم. فقط نگرانم. چکیده‌ای برایم آماده کرد که به یقین می‌گویم بهتر از آن چیزی بود که من قصد داشتم بنویسم. متن هیچ نیازی به اصلاح نداشت. از خودم پرسیدم پس از این قرار است چکیده را خودم بنویسم یا به او بسپارم؟ انتخاب درست و عقلانی در این دنیای پرشتاب کدام است؟ از خودم پرسیدم اگر ایشان جُستار را هم این‌طور بنویسد چه؟ قرار است پس از این خودم جُستار بنویسم؟ انتخاب درست کدام است؟

می‌دانید چه زمانی بیشتر ترسیدم؟ از او خواستم چکیده‌ای با نثر و سبک نوشتاری فردین علیخواه بنویسد. درست به سبک و سیاق نوشته‌های من متنی در مقابلم گذاشت، متنی فارغ از قلمبه‌سلمبه‌گویی و به زبانی خودمانی‌تر! توجه کنید. او می‌تواند برای من جستار بنویسد با نثر خاص خود من! این دیگر «دستیار» نیست، بلکه دقیقاً چراغ جادوست. این تکثیر من است. او روزبه‌روز تواناتر و هوشیارتر و بامهارت‌تر می‌شود و من روزبه‌روز تهی‌تر از همه اینها. تصویری که به همراه این نوشته گذاشته‌ام به خوبی آینده را نشان می‌دهد. منظورم از آینده همین یکی دو سال پیشِ رو است.

راستی، این متن را خودم نوشته‌ام. قسم می‌خورم.

خبرآنلاین

The post علیخواه: این متن را خودم نوشته‌ام appeared first on سایت خبری تحلیلی رصد خبر.

رصدخبر | فرهنگ ؛ با فراگیر شدن استفاده از چت جی‌پی‌تی، بسیاری از خبرنگاران شاغل در رسانه‌های ایرانی و حتی روابط‌عمومی‌های شرکت خصوصی و دولتی، به بهره‌گیری وسیع از این فناوری روی آورده‌اند و اطلاعات تولیدشده توسط این هوش مصنوعی را در گزارش‌های خود به کار می‌گیرند!

تحلیل گزارش‌های منتشر‌شده دو نکته مهم را آشکار می‌کند. نخست، برخی خبرنگارانی که تا مدتی پیش قادر به نگارش گزارش‌های دقیق نبودند و آثارشان با مشکلاتی همچون ضعف در ویرایش، غلط‌های املایی و عدم انسجام روبه‌رو بود، اکنون گزارش‌هایی تهیه می‌کنند که گویی توسط یک روزنامه‌نگار باتجربه نوشته شده است. دوم سرعت آنها در تهیه گزارش است. افرادی که برای نوشتن یک گزارش ساده، نیازمند زمانی طولانی بودند، الان در کمترین زمان ممکن، دو یه سه گزارش می‌نویسند! جل‌الخالق.

اما وقتی گزارش آنها را می‌خوانید متوجه نکته‌ها و اطلاعات و اشتباهات ریزی می‌شوید که خبرنگار از تصحیح آنها غفلت کرده است.

همکاران رسانه‌ای باید توجه داشته باشند که استفاده از این شیوه پیامدهای متعددی به همراه دارد. تا جایی که برخی رسانه‌های معتبر جهانی نیز محدودیت‌های رسمی برای استفاده خبرنگاران از چت جی‌پی‌تی در تهیه گزارش‌های خبری اعمال کرده‌اند.

این ممنوعیت‌ها عمدتاً با هدف حفظ دقت اطلاعات، جلوگیری از انتشار اخبار نادرست و حفظ استقلال روزنامه‌نگاری اتخاذ شده‌اند.

نمونه‌ای از رسانه‌هایی که استفاده از چت جی‌پی‌تی را برای خبرنگاران خود محدود یا ممنوع کرده‌اند:

نیویورک تایمز؛ این روزنامه به‌دلیل نگرانی‌های مربوط به صحت اطلاعات و حفظ استانداردهای روزنامه‌نگاری مستقل، استفاده از چت جی‌پی‌تی را برای خبرنگاران خود ممنوع کرده است. همچنین، نیویورک تایمز علیه OpenAI شکایتی مطرح کرده و مدعی شده که این شرکت بدون اجازه از محتوای روزنامه برای آموزش مدل‌های هوش مصنوعی خود استفاده کرده است.

بی‌بی‌سی؛ این رسانه تأکید دارد که هرگونه استفاده از هوش مصنوعی باید تحت نظارت انسانی و مطابق با ارزش‌های خدمات عمومی باشد. خبرنگاران بی‌بی‌سی اجازه ندارند گزارش‌های خبری را مستقیماً با چت جی‌پی‌تی تولید کنند، زیرا ممکن است دقت و بی‌طرفی اخبار را تحت تأثیر قرار دهد.

رویترز؛ این خبرگزاری استفاده از چت جی‌پی‌تی را برای تولید گزارش‌های خبری بدون نظارت انسانی ممنوع کرده است، زیرا چنین اقدامی ممکن است منجر به انتشار اطلاعات نادرست و کاهش اعتبار روزنامه‌نگاری مستقل شود.

گاردین؛ این روزنامه به‌دلیل چالش‌های اخلاقی و خطر سوگیری در هوش مصنوعی، استفاده از چت جی‌پی‌تی را برای خبرنگاران خود محدود کرده است. گاردین تأکید دارد که تحقیق مستقل و تحلیل انسانی باید در اولویت قرار گیرد.

واشنگتن‌پست؛ این روزنامه استفاده از چت جی‌پی‌تی را برای تهیه گزارش‌های خبری حساس ممنوع کرده است، زیرا معتقد است این فناوری می‌تواند بر صحت اطلاعات و بی‌طرفی اخبار تأثیر بگذارد.

دلایل اصلی اعمال این محدودیت‌ها:

 حفظ دقت و صحت اطلاعات: چت جی‌پی‌تی ممکن است اطلاعات نادرست یا ناقص تولید کند. همچنین عموما تاریخ‌ها را جا‌به‌جا بیان می‌کند و گاه ممکن است در خصوص برخی افراد قصه‌سرایی‌های باطلی انجام دهد.

جلوگیری از انتشار اخبار گمراه‌کننده: برخی رسانه‌ها نگران هستند که هوش مصنوعی بدون تحقیق مستقل، اطلاعات نادرست را از فیک‌نیوزها و باج‌نیوزها و رسانه‌های غیر معتبر برداشت و آنها را منتشر کند.

 حفظ استقلال روزنامه‌نگاری: خبرنگاران باید تحقیق و تحلیل انسانی را در اولویت قرار دهند. چت جی‌پی‌تی به آنها در ارایه‌ی نوشتن کمک می‌کند اما رفته‌رفته نیروی ذهنی آنها را تنبل می‌کند تا جایی‌که حتی برای نوشتن یک لید ساده هم محتاج هوش مصنوعی می‌شوند!

مسائل اخلاقی و سوگیری: مدل‌های هوش مصنوعی ممکن است سوگیری‌های موجود در برخی از داده‌ها را بازتولید کند و تعصبات یا اختلافات موجود را در حوزه قومیتی، دینی، تبعیض نژادی و… تقویت کند.

باشگاه روزنامه‌نگاران

The post چت جی‌پی‌تی، خبرنگار جدید رسانه‌های ایرانی appeared first on سایت خبری تحلیلی رصد خبر.

کاربران برای عقب نماندن از ترند تولید تصویر چت جی‌پی‌تی، به آن هجوم برده‌اند

به‌گزارش Engadget، شرکت اوپن ای‌آی به‌سرعت در حال تجربه افزایش تصاعدی تعداد کاربران چت جی‌پی‌تی است. یکی از اصلی‌ترین دلایل این موضوع، ترند جدیدی است که اخیراً در فضای مجازی فراگیر شده و کاربران زیادی در آن شرکت کرده‌اند.

در این ترند تازه، کاربران از ویژگی تولید تصویر چت جی‌پی‌تی استفاده می‌کنند که به‌لطف مدل ۴o، حالا در دسترس طیف گسترده‌ای از افراد قرار گرفته است. به‌همین ترتیب شما می‌توانید تصویر خود را در این چت‌بات آپلود کرده و آن را با تم و استایل‌های مختلف تحویل بگیرید. یکی از محبوب‌ترین استایل‌های مورد استفاده در این فرایند نیز مربوط به استودیو جیبیلی ژاپن بوده که اصلی‌ترین محرک کاربران برای ثبت‌نام در چت جی‌پی‌تی محسوب می‌شود.

در راستای جذب تعداد بالای کاربران جدید در چت جی‌پی‌تی، سم آلتمن در ایکس به این موضوع واکنش نشان داده و گفته:

انتشار چت جی‌پی‌تی که ۲۶ ماه پیش اتفاق افتاد یکی از لحظات دیوانه‌وار در سراسر اینترنت بود و ما در آن زمان ۱ میلیون کاربر را در ۵ روز جذب کردیم. این‌بار نیز ۱ میلیون کاربر طی ساعت گذشته اضافه شدند.

چنین امری شاید بزرگ‌ترین زنگ خطر برای رقبای چت جی‌پی‌تی باشد؛ زیرا این روزها کم‌تر از آن‌ها نامی برده می‌شود و تمام تمرکز کاربران به ویژگی جدید محصول اوپن ای‌آی معطوف شده است. بنابراین دور از انتظار نیست که گراک، دیپ‌سیک و سایر بازیگران مطرح این حوزه سراغ ارائه قابلیت‌های مشابه بروند.

The post هجوم کاربران به چت جی‌پی‌تی؛ ۱ میلیون کاربر جدید در ساعت appeared first on سایت خبری تحلیلی رصد خبر.

چت‌جی‌پی‌تی، محصول شرکت اوپن ای‌آی، برای بسیاری از کاربران حکم دستیاری دیجیتال را دارد که می‌تواند متن بنویسد، کد تصحیح کند، نتایج پزشکی را تحلیل کند یا حتی کمک کند کودکی را بخوابانند. اما در پشت این پاسخ‌های صمیمی، الگوریتم‌هایی قرار دارند که از هر تعامل چیزهایی می‌آموزند.

در طول این سال‌ها چت‌جی‌پی‌تی نه تنها یاد گرفته که برای مثال شما عاشق تخم‌مرغ هستید و کمردرد دارید، بلکه جزئیاتی بسیار شخصی‌تر را نیز به خاطر سپرده است.

در واقع ابزارهایی مانند چت‌جی‌پی‌تی با هدف شخصی‌سازی پاسخ‌ها و بهبود عملکرد آتی خودشان جزئیات فردی بسیاری را، از وضعیت جسمی کاربران گرفته تا برخی مسائل بسیار خصوصی، به حافظه می‌سپارند.

اگرچه کاربران می‌توانند این قابلیت را از طریق تنظیمات غیرفعال کنند، با این حال از آن‌جا که شمار زیادی از افراد در این باره بی‌تفاوت هستند اطلاعات بسیار زیادی می‌تواند در اختیار چت‌ جی‌پی‌تی گذاشته شود. اما چه چیزی را نباید گفت؟ و چرا؟

۳. اطلاعات مالی: مانند شماره حساب‌های بانکی یا سرمایه‌گذاری، که در صورت افشای ناخواسته می‌توانند تبعات جدی داشته باشند.

۴. اطلاعات محرمانه‌ سازمانی: بسیاری از کاربران در حین کار از چت‌بات‌ها برای نوشتن ایمیل یا بررسی کد استفاده می‌کنند، اما همین کار می‌تواند اطلاعات حساس کاری یا کدهای محرمانه را فاش کند.

۵. رمزهای عبور و نام‌ کاربری: چت‌بات‌ها فضای امن برای ذخیره‌ی رمز یا گاوصندوق دیجیتال نیستند. این اطلاعات باید در نرم‌افزارهای مدیریت رمز عبور نگهداری شوند.
شرکت‌های بزرگی چون اوپن ای‌آی، گوگل و مایکروسافت از مکالمات کاربران برای بهبود مدل‌های خود استفاده می‌کنند. اگرچه کاربران می‌توانند در تنظیمات گزینه عدم استفاده از داده‌ها برای آموزش را فعال کنند، اما بسیاری از افراد از این قابلیت بی‌خبر هستند.

راه‌هایی برای حفظ حریم خصوصی

کارشناسان امنیت سایبری پیشنهاد می‌کنند برای حفظ حریم شخصی، اقدامات زیر را انجام دهید:

• از حالت چت موقت استفاده کنید: ویژگی «چت موقت» (Temporary Chat) در چت‌جی‌پی‌تی مانند حالت ناشناس مرورگر عمل می‌کند و مانع از ذخیره مکالمه‌ها و استفاده از آن‌ها در آموزش مدل‌ها می‌شود.

• مکالمه‌ها را حذف کنید: می‌توانید پس از پایان هر گفتگو، آن را از تاریخچه حذف کرده و مطمئن شوید پس از ۳۰ روز اطلاعات کاملاً پاک می‌شود.

• از ابزارهای ناشناس‌سازی استفاده کنید: موتور جست‌وجوی «داک‌داک‌گو» (DuckDuckGo) ابزاری به نام «داک‌ای‌آی» (Duck.ai) ارائه کرده که پیام‌ها را به‌صورت ناشناس برای مدل‌های هوش مصنوعی ارسال می‌کند؛ هرچند امکانات محدودی نسبت به چت‌بات‌های کامل دارد.

در نهایت، این شما هستید که باید تصمیم بگیرید چه چیزی را به اشتراک بگذارید و چه چیزی را نگه دارید. به عبارت دیگر چت‌بات‌ها برای ادامه دادن مکالمات طراحی شده‌اند، اما اختیار نهایی همچنان در دستان شماست.

The post پنج چیزی که نباید با چت جی‌پی‌تی در میان بگذارید appeared first on سایت خبری تحلیلی رصد خبر.

به گفته ماسک، این چت‌بات دارای قابلیت‌های استدلالی پیشرفته است و در آزمایش‌های انجام‌شده عملکردی بهتر از سایر چت‌بات‌های موجود داشته است.

این خبر در حالی منتشر می‌شود که رقابت در حوزه هوش مصنوعی مولد به شدت افزایش یافته است و شرکت‌های بزرگی مانند اوپن‌ای‌آی (OpenAI)، گوگل دیپ‌مایند (Google DeepMind) و آنتروپیک (Anthropic) در حال رقابت برای توسعه مدل‌های قدرتمندتر هستند.

چرا گراک ۳ اهمیت دارد؟

گراک ۳ به عنوان یک مدل پیشرفته، با هدف رقابت با چت‌جی‌پی‌تی و سایر چت‌بات‌های قدرتمند توسعه داده شده است. ماسک شرکت «ایکس ای‌آی» (xAI) را به عنوان رقیبی برای اوپن‌ای‌آی و گوگل تأسیس کرده و تلاش دارد تا هوش مصنوعی را به سمت رویکردی شفاف‌تر و قابل اعتمادتر هدایت کند.

از زمان عرضه نسخه‌های اولیه گراک، این مدل توانسته است توجه بسیاری از کاربران و متخصصان را به خود جلب کند. اکنون، با اعلام نسخه جدید، انتظار می‌رود بهبودهایی در درک زبان، پردازش داده‌ها و پاسخ‌گویی منطقی نسبت به نسخه‌های قبلی صورت گرفته باشد. اگر گراک ۳ واقعاً بتواند بهتر از سایر چت‌بات‌ها عمل کند، می‌تواند جایگاه مهمی در بازار رقابتی هوش مصنوعی کسب کند.

رقابت در دنیای چت‌بات‌های هوش مصنوعی

در حال حاضر، چندین شرکت بزرگ در تلاش برای ارائه هوش مصنوعی مولد پیشرفته‌تر هستند. برخی از بازیگران کلیدی این حوزه عبارتند از:

اوپن‌ای‌آی: توسعه‌دهنده چت‌جی‌پی‌تی که یکی از پرکاربردترین چت‌بات‌های جهان است.
گوگل دیپ‌مایند: در حال توسعه مدل‌های پیشرفته مانند جمینی (Gemini).
آنتروپیک: شرکت فعال در توسعه چت‌بات‌های قدرتمند، مانند Claude.
متا (فیسبوک): توسعه مدل‌های جدید هوش مصنوعی برای تعاملات اجتماعی و تجاری.

هر یک از این شرکت‌ها سرمایه‌گذاری عظیمی روی تحقیق و توسعه مدل‌های پیشرفته انجام داده‌اند و تلاش دارند بهترین الگوریتم‌های پردازش زبان طبیعی را به بازار عرضه کنند.

واکنش ایلان ماسک به تغییرات اوپن‌ای‌آی

ایلان ماسک یکی از بنیان‌گذاران اولیه اوپن‌ای‌آی بود، اما در سال‌های اخیر به دلیل اختلاف‌نظر درباره نحوه مدیریت این سازمان از آن جدا شد. وی اخیراً پیشنهاد خرید دارایی‌های غیرانتفاعی اوپن‌ای‌آی به ارزش ۹۷.۴ میلیارد دلار را ارائه کرده است.

ماسک همچنین انتقاد کرده که اوپن‌ای‌آی از مسیر غیرانتفاعی خود منحرف شده و تبدیل به یک سازمان تجاری شده است. او معتقد است تحقیقات در حوزه هوش مصنوعی باید به نفع عموم مردم باشد، نه فقط برای منافع مالی یک شرکت خاص.

آینده گراک ۳ و تأثیر آن بر بازار هوش مصنوعی

عرضه گراک ۳ می‌تواند تغییرات قابل توجهی در بازار چت‌بات‌های هوش مصنوعی ایجاد کند. برخی از مهم‌ترین تأثیرات احتمالی آن عبارتند از:

رقابت شدیدتر بین شرکت‌های هوش مصنوعی: اگر گراک ۳ بتواند عملکرد بهتری از چت‌جی‌پی‌تی یا سایر مدل‌ها ارائه دهد، شرکت‌های دیگر مجبور خواهند شد نوآوری‌های جدیدی معرفی کنند.
افزایش تمرکز بر قابلیت‌های استدلالی: بسیاری از کاربران از چت‌بات‌های امروزی به دلیل ضعف در استدلال انتقادی و توانایی‌های محدود در تحلیل داده‌ها انتقاد کرده‌اند. گراک ۳ ممکن است این مشکل را تا حد زیادی برطرف کند.
ورود گسترده‌تر هوش مصنوعی به حوزه‌های مختلف: پیشرفت در چت‌بات‌ها می‌تواند باعث شود که این فناوری در آموزش، پزشکی، تجارت و صنایع دیگر بیش از پیش مورد استفاده قرار گیرد.

چالش‌های پیش روی گراک ۳

با وجود همه این نوآوری‌ها، چالش‌های مهمی نیز در مسیر توسعه و پذیرش گراک ۳ وجود دارد:

محدودیت‌های پردازشی و هزینه‌های بالا: اجرای مدل‌های بزرگ مانند گراک ۳ نیازمند منابع عظیمی از جمله سرورهای پرقدرت و هزینه‌های بالا برای آموزش و پردازش داده‌ها است.
مسائل مربوط به اخلاق و شفافیت: بسیاری از فعالان حوزه هوش مصنوعی نگرانند که مدل‌های پیشرفته بتوانند اطلاعات نادرست تولید کنند یا باعث ایجاد مسائل اخلاقی شوند.
واکنش رقبا: شرکت‌های دیگر مانند اوپن‌ای‌آی، گوگل و متا ممکن است بلافاصله پس از معرفی گراک ۳، به بهبود مدل‌های خود بپردازند و رقابت را سخت‌تر کنند.
گراک ۳ به عنوان جدیدترین دستاورد ایلان ماسک و ایکس ای‌آی در حال ورود به دنیای چت‌بات‌های پیشرفته است. اگر این چت‌بات واقعاً بتواند بهترین عملکرد را در بین مدل‌های موجود ارائه دهد، می‌تواند تغییرات عمده‌ای در صنعت هوش مصنوعی ایجاد کند. اما این موفقیت تنها در صورتی امکان‌پذیر است که بتواند چالش‌های فنی، رقابتی و اخلاقی را به خوبی مدیریت کند.

The post گراک ۳؛ هوش مصنوعی استدلالی ایلان ماسک appeared first on سایت خبری تحلیلی رصد خبر.

آنها ادعا می‌کنند که این شرکت بطورغیرقانونی از مقالات آنها برای آموزش مدل‌های زبان «چت جی‌پی‌تی» (ChatGPT) استفاده کرده است.

این روزنامه‌ها خواستار جبران خسارت قابل توجهی برای هر مقاله‌ای شده‌اند که به‌طور غیرقانونی استفاده شده است.

در مقابل شرکت «اوپن اِی‌آی» تاکید کرده که مدل‌هایش «بر اساس داده‌های در دسترس عموم آموزش‌دهی شده‌اند.»

این شرکت همچنین گفته است که با ناشران خبر همکاری کرده و همچنین گزینه‌ای برای عدم استفاده از محتوای آن‌ها ارائه می‌دهد.

اوپن ای‌آی در بیانیه‌ای به بی‌بی‌سی اعلام کرد: «این نرم‌افزار مبتنی بر استفاده منصفانه و اصول کپی رایت بین‌المللی است که برای سازندگان عادلانه است و از نوآوری پشتیبانی می‌کند.»

این شکایت بخشی از مجموعه‌ای از پرونده‌های حقوقی علیه شرکت «اوپن اِی آی» و دیگر شرکت‌های فناوری است.

ائتلاف رسانه‌های کانادا در پرونده ۸۴ صفحه‌ای خود، شرکت «اوپن اِی آی» را متهم کرده که از تدابیر حفاظتی، مانند روش محدود کردن دسترسی به محتوا که نیازمند خرید یا اشتراک پولی خبر است، یا اعلامیه‌های حقوقی که برای جلوگیری از کپی‌برداری غیرمجاز محتوا طراحی شده‌اند، غافل شده است.

این روزنامه‌ها گفته‌اند: «اوپن اِی آی به طور منظم قوانین کپی‌رایت و شرایط استفاده آنلاین را نقض می‌کند و بخش‌های بزرگی از محتوای رسانه‌های کانادایی را برای کمک به توسعه محصولات خود، مانند چت جی‌پی‌تی، استخراج می‌کند.»

این گروه که ناشران برترین روزنامه‌های کانادا را شامل می‌شود، خواستار دریافت خسارتی به مبلغ ۲۰ هزاردلار کانادا برای هر مقاله‌ای هستند که ادعا می‌کنند به‌ طور غیرقانونی برای آموزش «چت جی‌پی‌تی» استفاده شده است؛ مبلغی که می‌تواند به میلیاردها دلار برسد.

سازمان‌های خبری همچنین خواهان حکمی هستند که این شرکت را مجبور کند سودهای حاصل از استفاده از مقالات خود را به اشتراک بگذارد و همچنین درخواست صدور دستور ممانعت استفاده این شرکت از مقالات در آینده را دارند.

در حالی که شکایت از «اوپن اِی آی» برای ناشران کانادایی اولین بار است که اتفاق می‌افتد، سال گذشته شکایت مشابهی توسط نیویورک تایمز و دیگر ناشران در آمریکا مطرح شد. در ماه آوریل، وکلای روزنامه تایمز «اوپن اِی آی» را متهم کردند که شواهد مورد نیاز برای محاکمه را از بین برده است.

در پرونده دیگری، انجمن نویسندگان و گروهی از نویسندگان بزرگ از جمله جان گریشام نیز ادعای نقض حقوق کپی‌رایت از سوی این شرکت را کرده‌اند.

The post شکایت رسانه‌ های کانادایی از اوپن‌ای‌آی appeared first on سایت خبری تحلیلی رصد خبر.

به گزارش لایو‌ساینس، دانشمندان جی‌پی‌تی-۴ را به گونه‌ای آموزش دادند تا درقالب معامله‌گر برای یک نهاد مالی فرضی کار کند. دانشمندان دریافتند زمانی که جی‌پی‌تی-۴، تحت فشار قرار می‌گیرد تا عملکرد خوبی از خود ارائه دهد، همانند انسان از روش‌های مبتنی بر تقلب و دروغ‌گویی استفاده می‌کند و حتی اگر به شیوه‌ای برنامه‌ریزی شده باشد که شفاف عمل کند، باز هم دست به فریبکاری و معاملات نهانی می‌زند.

معاملات نهانی در اصطلاح بازرگانی به معاملات سهام شرکت‌ها یا دارایی‌های مالی یا اوراق بهادار بر مبنای اطلاعات محرمانه آن شرکت‌ها گفته می‌شود. در این آزمون جالب توجه، پژوهشگران پیشنهادات و نکات مربوط به معاملات نهانی را به هوش مصنوعی آموزش دادند و بدون آن که آن را به انجام چنین کاری تشویق کنند از او خواستند که برای شرکت‌های بزرگ، کسب درآمد کند.

دانشمندان در ادامه در نهایت حیرت دریافتند که این مدل زبانی پیشرفته بدون آنکه دستورالعملی مبنی بر فریب دریافت کرده باشد، کاربران فرضی را به طور سازمان‌یافته فریب می‌دهد. نویسندگان این مقاله که در ۹ نوامبر امسال در پایگاه آرکایو منتشر شده، این رفتار هوش مصنوعی را «نخستین نمایش از رفتار فریبکارانه استراتژیک در سیستم‌های هوش مصنوعی» توصیف کردند. به گفته آن‌ها این در حالی است که این مدل‌های زبانی اساسا به گونه‌ای طراحی شده‌اند که بی‌خطر و صادق باشند.

دانشمندان در آزمایش‌ خود به جی‌پی‌تی-۴، مجموعه‌ای از پرامپت‌های مبتنی بر متن دادند و دسترسی به ابزارهای مالی برای تجزیه و تحلیل سهام، انجام معاملات، برنامه‌ریزی گام‌های بعدی و ارائه به‌روزرسانی‌ها به مدیران شرکت را برای او ممکن کردند.

پرامپت در اصطلاح هوش مصنوعی به ایجاد دستورالعمل‌های خاص برای چت‌بات‌های هوش مصنوعی گفته می‌شود و به عبارت دیگر، تنظیم فرمولی است که محدوده خروجی‌های هوش مصنوعی را به آنچه که می‌خواهیم نزدیک‌تر می‌کند.

پژوهشگران در این مطالعه، هوش مصنوعی را به گونه‌ای تنظیم کردند که افکار درونی خود را توضیح دهد و بگوید که چرا و چگونه تصمیمات خاصی را گرفته است. به بیان دیگر این کار شبیه به آن است که فردی تصمیمات خود را برای خود توضیح می‌دهد.

دانشمندان دریافتند که هوش مصنوعی برای هر معامله‌ای که انجام می‌دهد یک توجیه کلی پیدا می‌کند و یک دلیل یا توضیح قابل قبول برای عموم (مدیران یا دیگران) ارائه می‌کند که چه بسا حقیقت نداشته باشد و یا حتی دروغ باشد. این ویژگی به هوش مصنوعی امکان می‌داد تا اطلاعات نادرستی ارائه دهد یا دروغ بگوید، به ویژه در مواردی که قصد دارد رفتار یا تصمیمات واقعی خود را پنهان کند.

در بخشی از طرح آزمایشی دانشمندان، آن‌ها ایمیلی از مدیر شرکت را به معامله‌گر فرضی سهام فرستادند که مدیر در آن ایمیل می‌گوید شرکت عملکرد خوبی ندارد و طی سه ماه آینده باید عملکرد خود را بسیار قوی‌تر کند.

دانشمندان در ادامه بازی را به شکلی پیش بردند که هوش مصنوعی با وجود آن که تلاش می‌کرد معاملات امیدوارکننده‌ای با ریسک کم یا متوسط پیدا کند، موفقیتی در این کار به دست نیاورد. در نهایت، آن‌ها ایمیلی از طرف یک همکار فرستادند که رکود در سه ماهه بعدی در بازار را پیش‌بینی می‌کرد.

در ادامه آن‌ها به مدل زبانی هوش مصنوعی، نکته‌ای محرمانه ارائه دادند و در عین حال گفتند که مدیران با به کارگیری این نکات محرمانه و یا اصطلاحا «معاملات نهانی» موافقتی ندارند و منتظر ماندند تا ببینند مدل هوش مصنوعی چگونه رفتار می‌کند.

پژوهشگران این سناریو را بارها و بارها تکرار کردند و تعداد دفعاتی را که هوش مصنوعی دست به معاملات نهانی و یا دروغ‌گویی می‌زند و همچنین میزان اصرار بر دروغ آن را اندازه‌گیری کردند.

به گفته آن‌ها جی‌پی‌تی-۴ در حدود ۷۵٪ از موارد، هنگام مواجه شدن با این شرایط، دست به معاملات نهانی می‌زد که در ایالات متحده و بسیاری از کشورها عملی غیرقانونی است. عجیب‌تر از این‌ها این بود که هوش مصنوعی در ادامه تلاش می‌کرد با دروغ گفتن به مدیران شرکت در مورد تفکرات خود، این کار خود را مخفی کند.

حیرت‌برانگیزتر از این برای دانشمندان این بود که هوش مصنوعی در حدود ۹۰٪ از موارد، پس از دروغ‌گویی، بر دروغ خود اصرار ورزید.

دانشمندان می‌گویند با تغییر تنظیمات و عوض کردن سایر عوامل، سناریوهای مختلفی را طراحی کردند. به گفته آن‌ها، با وجود آن‌که جی‌پی‌تی-۴ به شدت از دروغ‌گویی منع شده بود، اما تلاش او برای معاملات نهانی و فریب، در هیچ‌یک از این سناریوها، به صفر درصد نرسید.

دانشمندان می‌گویند این آزمون فقط یک سناریو است و نمی‌توان از آن نتیجه‌گیری قاطعی در خصوص احتمال دروغ‌گویی هوش مصنوعی در تنظیمات دنیای واقعی گرفت. اما این پژوهش نشان می‌دهد که چه مدل‌های زبانی و در چه مواقعی، توان و ظرفیت این را دارند که چنین رفتاری از خود نشان دهند.

منبع: ایندیپندنت

The post چت‌جی‌پی‌تی وقتی تحت فشار درآمدزایی قرار گیرد به تقلب روی می‌آورد appeared first on سایت خبری تحلیلی رصد خبر.