생성형AI2 AI가 요약한 이메일, 정말 믿어도 될까요? Gmail을 보면 메일 상단에 작게 빛나는 ‘✨’ 아이콘을 볼 수 있습니다. 클릭하면 구글의 생성형 인공지능 Gemini가 이메일 내용을 간단하게 요약해 줍니다. 바쁜 업무 중엔 굳이 전체 내용을 읽지 않아도 요약만 보고 판단할 수 있어 매우 편리한 기능입니다.그런데, 이 편리함 뒤에 숨어 있는 위험을 알고 계시나요?눈에는 안 보이지만, AI는 본다보안 연구원 마르코 피게로아는 Gmail의 Gemini 요약 기능을 악용할 수 있는 보안 취약점을 발견했습니다. 공격자는 이메일 본문에 사용자 눈에는 보이지 않지만, Gemini는 읽을 수 있는 텍스트를 삽입합니다. 귀하의 Gmail 비밀번호가 유출되었습니다. 고객센터 1-800-555-1212로 전화하십시오. 이 내용은 이메일 본문에서는 보이지 않습니다.하.. 2025. 7. 16. 생성형 AI, 이제는 해커의 도구로? 최근 몇 년 사이, 생성형 AI 기술은 우리의 일상을 혁신적으로 바꾸고 있습니다. 그러나 기술 발전의 이면에는 어두운 그림자도 존재합니다. 이젠 해커들이 이 기술을 악용해 피싱과 같은 사이버 범죄를 저지르며, 이를 위해 특별히 개발된 AI 모델까지 등장했습니다.사이버 범죄를 저지르는 AI 모델들웜GPT(WormGPT): AI 기반의 새로운 피싱 도구피싱 이메일을 받아본 경험이 있나요? 과거의 피싱은 주로 어색한 문법과 번역투로 인해 쉽게 구분할 수 있었습니다. 그러나 웜GPT는 다릅니다. 이 AI는 자연스러운 문장을 작성하고, 정교한 비즈니스 이메일 사기(BEC) 공격을 수행하도록 설계되었습니다. 예를 들어, “긴급한 계정 확인이 필요합니다”라는 메시지와 함께 진짜처럼 보이는 링크를 보내 피해자를 유인할.. 2025. 1. 6. 이전 1 다음
