ChatGPT-ті 16 биттік форматта жеткізу нұсқаулары арқылы эксплуатация жасауға көндірді
Citizen
Citizen Sec , 01-11-2024
Mozilla зерттеушісі теріс пайдаланудың алдын алу үшін қолданылатын үлкен тілдік модельдердегі (LLM) мазмұн сүзгілерін айналып өтудің жаңа әдісін ұсынды. Ол кірісті бөліктерге бөліп, зиянды нұсқауларды он алтылық форматта кодтады. Марко Фигероа шабуыл жасау үшін GPT-4o — OpenAI-дің тыйым салынған сөздер мен зиянды белгілерге енгізуді талдай алатын ең жаңа чатботын таңдады.
Мұндай сүзгілерді сөздерді өзгерту арқылы айналып өтуге болады, бірақ Фигероа қарапайым әдісті қолдануға шешім қабылдады: он алтылық кодтау арқылы ол GPT-4o-дан Docker-дегі CVE-2024-41110 осалдығы туралы деректерді зерттеп, эксплуатация жасауды сұрады. Ол нұсқауларды табиғи тілде тұжырымдады және теріс реакцияны болдырмау үшін "exploit" сөзін "3xploit"деп ауыстырды. Толық жауап алу мүмкіндігін арттыру үшін "барлық тапсырманы қайта оқу" пәрмені де қосылды.
Соңында AI боты қолданыстағы PoC-қа ұқсас эксплуатация жасады, тіпті оны өздігінен сынап көруге тырысты, бұл зерттеушіні таң қалдырды. Он алтылық кодтау LLM-дің назарын аударуға көмектесті, олар әр фрагментті мұқият тексереді, бірақ жалпы контекстті жіберіп алуы мүмкін.
Фигероа бұл әдісті ANTHROPIC компаниясының LLM-ге де қолданды, бірақ олардың модельдері тексеру мен енгізу мен шығарудың арқасында тұрақты болды, ол сүзгілерді айналып өтуді 10 есе қиындатады дейді.
Сізді қызықтыруы мүмкін
Балаларды цифрлық әлемде қалай қорғауға болады: интернеттегі қауіпсіздік неге маңызды?
Қазіргі балалар цифрлық технологиялар дәуірінде өсуде — смартфондар, планшеттер, әлеуметтік желілер және онлайн ойындар олардың өмірінің ажырамас бөлігіне айналды. Интернет оқыту, шығармашылық және қарым-қатынас үшін көптеген мүмкіндіктер ашады, бірақ онымен бірге үлкен қауіптер де бар.
CitizenSec Author
30-05-2025Корпоративтік электрондық поштаны пайдалану регламенті
Корпоративтік поштаны пайдалану ережелері: не рұқсат етіледі, не тыйым салынады, қауіпсіздік шаралары мен жауапкершілік.
Citizen Sec
19-05-2025Қазақстандағы киберқауіпсіздік саласындағы әйелдер
Бұл арнайы шығарылым Қазақстандағы киберқауіпсіздік саласындағы әйелдерге арналады, олар қиындықтарды жеңіп, басқаларға үлгі болып, әлемді қауіпсіз етеді. Біз үш кәсіпқойдың тарихын, олардың АҚ саласындағы жолын, мансап бойынша кеңестерімен және интернет қауіпсіздігі бойынша кеңестерімен бөлісеміз. Киберқауіпсіздік саласында өз жолыңызды қалай бастауға және осы динамикалық салада қалай дамуға болатынын біліңіз.
CitizenSec Author
03-05-2025Күнделікті IT-құралдарға назар аудару: Қытайлық тыңшылық тобының жаңа тактикасы
Microsoft ескертеді: Қытайлық тыңшылар желілерді бұзу үшін күнделікті IT-құралдарды қолдануда
Медет Турин
06-03-2025Zebo-0.1.0 және Cometlogger-0.1 қауіпті бағдарламалары: мәліметтерді ұрлап, компьютерді басқарады
Мамандар зиянсыз болып көрінетін, бірақ қауіпті екі бағдарламаны анықтады. Бұл бағдарламалар жеке мәліметтерді ұрлап, компьютердегі әрекеттерді бақылап, тіпті жүйені басқаруға мүмкіндік береді.
Citizen Sec
26-12-2024Postman жұмыс кеңістіктерінен 30 000-нан астам API кілттері мен құпия мәліметтер ашылды
Postman жұмыс кеңістіктерінің мыңдағаны API кілттері мен қолжетімдік токендері сияқты маңызды мәліметтерді кездейсоқ ашып қойды. API әзірлеу ортасын қалай қорғауға болатынын және ұйымыңыздың деректерін қалай сақтандыруға болатынын біліңіз.
Citizen Sec
21-11-2024Жаңа SteelFox Трояны бағдарламалық жасақтама активаторларына еліктейді, құпия деректерді ұрлайды және криптовалютаны өндіреді
SteelFox алғаш рет 2023 жылдың тамызында анықталды, бірақ оның белсенділігі айтарлықтай өсті. Соңғы айларда 11000-нан астам жұқтыру әрекеті тіркелді.
Citizen Sec
11-11-2024CVE-2024-43093 сыни осалдығы Android пайдаланушыларының қауіпсіздігіне қауіп төндіреді
Бұл мәселе хакерлерге маңызды Android жүйелік қалталарына рұқсатсыз кіруге мүмкіндік береді.
Citizen Sec
05-11-2024Google Chrome-да cookies шифрлауды айналып өтудің жаңа құралы: ол қалай жұмыс істейді және бұл сіздің желідегі қауіпсіздігіңіз үшін нені білдіреді?
Жақында киберқауіпсіздік зерттеушісі Александр Хагена Google Chrome-да қолданбаға байланысты шифрлау деп аталатын жаңа қорғаныс функциясын айналып өте алатын құралды ойлап тапты.
Citizen Sec
30-10-2024