نرم افزار سایبری جدید می تواند میزان دانش واقعی هوش مصنوعی را تأیید کند -- ScienceDaily
انتشار: فروردین 15، 1402
بروزرسانی: 16 آذر 1404

نرم افزار سایبری جدید می تواند میزان دانش واقعی هوش مصنوعی را تأیید کند -- ScienceDaily

نرم افزار تأیید سوری می تواند به عنوان بخشی از پروتکل امنیتی آنلاین یک شرکت مورد استفاده قرار گیرد، و به سازمان کمک می کند تا بفهمد آیا هوش مصنوعی بیش از حد یاد گرفته است یا حتی به داده های حساس دسترسی پیدا کرده است.

با توجه به علاقه روزافزون به سیستم های هوش مصنوعی مولد (AI) در سراسر جهان، محققان دانشگاه ساری نرم افزاری ایجاد کرده اند که می تواند میزان اطلاعاتی را که یک هوش مصنوعی از پایگاه داده دیجیتال یک سازمان جمع آوری کرده است، تأیید کند.

اطلاعات بیشتر:



منبع

پروفسور آدریان هیلتون، مدیر موسسه هوش مصنوعی مردم محور در دانشگاه ساری، گفت:

دکتر Solofomampionona Fortunat Rajaona پژوهشگر در تأیید رسمی حریم خصوصی در دانشگاه Surrey و نویسنده اصلی مقاله است. او گفت:

در بسیاری از کاربردها، سیستم های هوش مصنوعی با یکدیگر یا با انسان ها تعامل دارند، مانند ماشین های خودران در بزرگراه یا ربات های بیمارستان. بررسی آنچه که یک سیستم داده هوشمند هوش مصنوعی می داند، مشکلی است که سال ها طول کشیده تا بتوانیم آن را پیدا کنیم. راه حل برای.

"نرم افزار تأیید ما می تواند استنباط کند که هوش مصنوعی چقدر می تواند از تعامل آنها بیاموزد، آیا آنها دانش کافی دارند که همکاری موفقیت آمیز را ممکن می کند یا خیر، و آیا آنها دانش زیادی دارند که حریم خصوصی را نقض می کند. از طریق توانایی تأیید آنچه که هوش مصنوعی آموخته است، می توانیم ارائه دهیم. سازمان ها این اطمینان را دارند که با خیال راحت قدرت هوش مصنوعی را در تنظیمات ایمن رها کنند."

مطالعه در مورد نرم افزار Surrey برنده جایزه بهترین مقاله در بیست و پنجمین سمپوزیوم بین المللی روش های رسمی شد.

این نرم افزار همچنین قادر است تشخیص دهد که آیا AI نقص های کد نرم افزار را شناسایی کرده و می تواند از آن استفاده کند. به عنوان مثال، در یک زمینه بازی آنلاین، می تواند تشخیص دهد که آیا هوش مصنوعی یاد گرفته است که همیشه در پوکر آنلاین با سوء استفاده از یک خطای کدگذاری برنده شود یا خیر.

طی چند ماه گذشته، علاقه شدید مردم و صنعت به مدل های هوش مصنوعی مولد ناشی از پیشرفت ها در مدل های زبان بزرگ مانند ChatGPT بوده است. ایجاد ابزارهایی که می توانند عملکرد هوش مصنوعی مولد را تأیید کنند، برای حمایت از ایمنی و ایمنی آنها ضروری است. این تحقیق گامی مهم در جهت حفظ حریم خصوصی و یکپارچگی مجموعه داده های مورد استفاده در آموزش است."

نویسنده: تیم تحریریه Matthew Newman