전체 글21 LLM 탈옥(Jailbreaking)이란? 1. LLM 탈옥(Jailbreaking)이란?LLM(대규모 언어 모델)의 제약을 우회하는 방법개발자가 설정한 보안 정책, 윤리적 제한, 콘텐츠 필터링을 무력화하는 과정AI의 응답을 제한하는 제어(Control Mechanism)를 피하고, 원래 허용되지 않은 출력을 유도하는 기법생성형 AI 기술의 발전으로 AI 시스템의 안전성과 윤리적 책임이 중요해짐 2. AI Red Team이란?군사 전략에서 유래된 개념으로, AI 보안 테스트 및 취약점 탐색을 수행하는 역할AI 시스템의 공정성, 보안, 신뢰성을 점검하는 전문가 그룹다음과 같은 보안 위협을 탐지하고 방어 전략을 수립함Prompt Injection: 특정 입력을 통해 AI 모델을 조작하는 기법Poisoning: AI 학습 데이터에 악성 데이터를 주입하.. 2024. 12. 20. [Paper Review] Prefix-Tuning: Optimizing Continuous Prompts for Generation 기존 파인튜닝의 모든 파라미터를 수정하고 각 태스크마다 카피본을 저장해야하는 문제를 해결하고자, 보다 가벼운 파인 튜닝 방법을 제안함. Prefix tuning을 사용하면 기존 모델 파라미터는 그대로 두고, 작은 연속적인 task-specific한 벡터만 최적화하면 됨. 파인튜닝에 비해 약 1000배 적은 파라미터만 업데이트하지만, 이와 상응하는 성능을 보임.AbstractFine-tuning은 대규모 사전학습 언어 모델을 하위 작업에 활용하는 사실상의 표준 방법으로, 이는 모든 언어 모델의 파라미터를 수정해야 하므로 각 작업마다 모델 전체 복사본을 저장해야 하는 단점이 존재함. 해당 논문에서는 이를 해결하고자 prefix-tuning이라는 대안적인 가벼운 접근법을 제안함.Prefix-tuning은 자.. 2024. 11. 27. [Python] pytrec-eval 설치 에러: Microsoft Visual C++ 14.0 or greater is required. github 코드를 돌리기 위해 pytrec_eval을 설치해야하는데 에러가 계속 발생했다.pip install pytrec-eval 발생되는 문제error: Microsoft Visual C++ 14.0 or greater is required. Get it with "Microsoft C++ Build Tools": https://visualstudio.microsoft.com/visual-cpp-build-tools/ Microsoft C++ Build Tools - Visual StudioThe Microsoft C++ Build Tools provides MSVC toolsets via a scriptable, standalone installer without Visual Studio. Re.. 2024. 10. 21. [Finance] 투자 지표 정리 - Sharpe, Sortino and Carmlar Ratios, MDD 포트폴리오를 구성한 후, 이를 평가하기 위해 투자 성과 지표를 찾아보았다. 각 지표는 포트폴리오의 수익률과 위험을 분석하는 데 초점을 맞추고 있으며, 이를 통해 투자 성과를 더욱 종합적으로 평가할 수 있다. 1. 샤프 비율 (Sharpe Ratio) R¯">ˉR: 포트폴리오의 연간 기대 수익률 Rf : 무위험 수익률 (일반적으로 국채 등 안정적인 자산 수익률) σ">σ : 포트폴리오 수익률의 연간 표준편차 샤프 비율은 투자 수익률과 변동성(위험)을 비교하는 가장 널리 사용되는 지표다. 이는 포트폴리오가 초과 수익을 달성하기 위해 감수한 위험의 양을 평가할 수 있도록 도와준다. 쉽게 말해, 투자자가 동일한 위험을 감수했을 때 더 많은 수익을 낸 .. 2024. 10. 18. 이전 1 2 3 4 5 6 다음
