Editor's Pick

RAG-Safety-Bench: Reliable Evaluation of Retrieval-Augmented LLM Safety

본문 요약: 검색 증강 생성(RAG)은 LLM의 신뢰성을 높이고 환각을 줄이지만, 유해한 요청에 대해 응답 안전성에 부작용을 일으킬 수 있음이 밝혀졌다. 이에 연구진은 RAG가 LLM 안전성에 미치는 영향을 측정하는 벤치마크 RAG-Safety-Bench를 소개했다. 이 벤치마크는 검색기 품질의 교란 효과를 제거하고, 비-RAG, 정답 포함 오라클 문서, 유해 요청 …