Paper Review/Alignment3 [Anthropic] Language Models (Mostly) Know What They Know * 논문에 대한 개인적인 해석이나 견해는 정확하지 않은 내용일 수 있습니다.* 개인적으로 기억하고 싶은 내용은 이탤릭체로 표기하였습니다. Language Models (Mostly) Know What They KnowAnthropic is an AI safety and research company that's working to build reliable, interpretable, and steerable AI systems.www.anthropic.com논문 링크: https://www.anthropic.com/research/language-models-mostly-know-what-they-know본 논문은 Anthropic에서 2022년 7월에 공개한 논문이다. 2026년 3월 기준 11.. 2026. 3. 23. [Anthropic] Training a Helpful and Harmless Assistant with Reinforcement 논문 링크: https://arxiv.org/abs/2204.05862 본 논문은 Anthropic에서 2022년 4월 12일에 공개한 논문입니다. * 리뷰에 개인적인 해석이나 견해는 정확하지 않은 내용일 수 있습니다.* 부족한 내용이나, 혹은 같이 이야기 나누고 싶은 내용은 코멘트 부탁드립니다.* 제가 개인적으로 궁금하고, 더 알아보고 싶은 내용은 하늘색 배경으로 표시하였습니다. 논문은 본문 37페이지 그리고 74페이지까지는 appendix로 상당히 긴 편이다. 1. 이 논문을 읽게 된 이유몇개월 전에 Antrhopic에서 낸 Alignment faking이라는 논문을 너무 재미있게 읽었었고, Anthropic이라는 회사에 점점 관심이 커져서 Anthropic논문의 시초부터 차근차근히 리뷰해보고자 .. 2025. 12. 20. [Anthropic] Alignment faking in large language models Alignment faking in large language modelsA paper from Anthropic's Alignment Science team on Alignment Faking in AI large language modelswww.anthropic.com 논문 링크: https://www.anthropic.com/research/alignment-faking본 논문은 Anthropic에서 2024년 12월에 발표한 논문이다. 이 논문은 무려 총 137페이지이다. 그 중 본문은 53페이지이다. 1. 이 논문을 읽게 된 이유https://www.youtube.com/watch?v=9eXV64O2Xp8 유튜브 알고리즘에 우연히 이 영상이 뜨게되면서 이 논문을 알게되었다! 이런 현상을 발.. 2025. 8. 20. 이전 1 다음
