본문 바로가기

Tech2

LLM 추론 성능 개선을 위한 Chain of Thoughts(CoT) 프롬프팅의 개념과 이해 **Chain of Thoughts (CoT)**는 복잡한 문제를 해결하기 위해 단계별 추론 과정을 도입하는 방법론으로, 특히 대규모 언어 모델(Large Language Models, LLM)의 성능을 향상시키는 데 사용됩니다. 이 접근법은 문제를 단순히 최종 답변만 구하는 것이 아니라, 중간 단계의 논리적 추론 과정을 포함하여 더 정확하고 신뢰할 수 있는 결과를 도출하도록 설계되었습니다. 주요 개념과 원리단계별 추론 (Step-by-Step Reasoning):CoT는 복잡한 문제를 여러 단계로 나누어 처리합니다. 예를 들어, 수학 문제나 상식 추론 문제에서 각 단계의 논리적 과정을 명시적으로 거쳐 최종 답을 도출합니다.추론 연결 (Linking Thoughts):각 단계의 추론이 자연스럽게 다음 단.. 2025. 2. 14.
ASIC 시장에서 브로드컴(AVGO)이 주목받는 이유: SerDes 기술 1. 요약브로드컴(Broadcom)이 ASIC(Application-Specific Integrated Circuit) 시장에서 50% 이상의 점유율을 차지할 수 있었던 핵심 이유는 SerDes(Serializer/Deserializer) 기술 IP(Intellectual Property)의 강력한 경쟁력에 있습니다. SerDes는 고속 데이터 전송과 신호 무결성을 보장하며, ASIC 설계와 AI 데이터센터 구축에서 필수적인 역할을 합니다. 아래 글을 통해 SerDes 기술의 원리와 중요성, ASIC 및 AI 데이터센터 시장의 성장 전망, 브로드컴의 경쟁 우위와 성과, 그리고 엔비디아(NVIDIA)와의 경쟁 구도를 종합적으로 분석합니다. 2. SerDes란 무엇인가?2.1 SerDes의 정의 SerDes.. 2025. 1. 3.