Training Data Poisoning 썸네일형 리스트형 ChatGPT도 해킹당한다: OWASP LLM Top 10으로 배우는 AI 보안 입문 웹 보안을 공부한 사람이라면 SQL Injection, XSS, CSRF는 익숙하다.그런데 ChatGPT는 SQL Injection 없이도 해킹당할 수 있다. 심지어 공격자는 악성 코드를 작성할 필요도 없다. 단 한 줄의 자연어만으로도 AI의 행동을 바꿀 수 있다.OWASP가 Prompt Injection을 LLM 보안 위협 1위로 선정한 이유가 여기에 있다.AI 비서가 이메일을 대신 써주는 시대다. 회사 내부 문서를 ChatGPT에 붙여넣어 요약시키고, 코파일럿이 코드를 짜준다. 그런데 여기서 중요한 질문이 있다."그 AI가 지금 누구 말을 듣고 있는지, 우리는 정말 알고 있을까?" Prompt Injection은 공격자가 AI의 지시 체계를 뒤흔드는 공격이다. 2023년 삼성전자 직원들이 ChatGP.. 더보기 이전 1 다음
