محققان می گویند محدودیت های قرار داده شده در چت بات ChatGPT توسط OpenAI برای جلوگیری از سو استفاده چندان کارایی نداشته و کلاهبرداران با دور زدن آن توانسته اند از این فناوری برای تولید کدهای بدافزار استفاده کنند.
به گزارش تکنا، گزارش های جدید نشان می دهد کلاهبرداران از چت بات ChatGPT برای بهبود کدهای یک بدافزار استفاده کرده اند.
امکان استفاده از چت بات ChatGPT به دو روش وجود دارد. یکی از آنها رابط کاربری وب و دیگری رابط های برنامه نویسی و ساخت برنامه هاست. از طریق API امکان استفاده از مدل های OpenAI در رابط کاربری توسعه دهندگان وجود دارد.
به گفته محققان، با وجود محدودیت های قوی در رابطه با استفاده از رابط وب، OpenAI هیچ محدودیتی در استفاده از رابط API ایجاد نکرده است. در این مورد گفته شده است: در حال حاضر در نسخه کنونی API OpenAI محدودیت های مربوط به ضد سواستفاده بسیار کم است. بنابراین به راحتی می توان محتوای مخرب مانند ایمیل های فیشینگ و کدهای بدافزار ایجاد و به کاربران ارسال کرد.
این محققان همچنین اعلام کردند در محافل زیرزمینی اینترنت تلاش برای دور زدن محدودیت های ChatGPT انجام می شود و نشان دهنده تعداد زیادی از هکرها از امکان دور زدن محدودیت ها آگاه هستند. شرکت بلک بری اخیرا نظرسنجی ای را در این رابطه انجام داده است که نشان می دهد اکثر کارشناسان آی تی معتقدند که اولین حمله سالاری با استفاده از ChatGPT در کمتر از یکسال دیگر رخ می دهد.
یکی از مدیران ارشد بخش موتور جستجوی گوگل در مصاحبه ای اعلام کرد تله های بالقوه ای در زمان استفاده از هوش مصنوعی وجود دارد که باید نسبت به آن مراقب بود. این فناوری می تواند به هذیان گویی دچار شود. به گزارش تکنا، پراباکار رغوان، معاون ارشد گوگل در مصاحبه خود با روزنامه Welt am sonntag […]
احتمالاً شرکت سازنده هوش مصنوعی ChatGPT از این فناوری به جای مهندسان خود استفاده کند. این شرکت برای آموزش هوش مصنوعی صدها پیمانکار را بیسر و صدا استخدام کرده بود. برخی از آنها وظیفه آموزش مهندسی نرمافزار به این هوش مصنوعی را بر عهده داشتند. بدین ترتیب امکان جایگزینی هوش مصنوعی به جای مهندسان وجود دارد. به […]
محققان در حال توسعه نوعی ربات بسیار کوچک هستند که به اندازه یک قاصدک بوده و به طور خودکار قابلیت پرواز به سمت نور را دارد. به گزارش سرویس تکنا، محققان از واحد رباتیک دانشگاه تامپره روی یک ربات بسیار کوچک به نام FAIRY کار می کنند که در آینده قادر خواهد بود مواد شیمیایی را […]
دیدگاهتان را بنویسید