728x90
반응형

2024/08/15 3

LLM : Llama 3.1 차세대 소픈소스 AI 모델의 시대를 열다

최근 몇 년 동안 AI 기술의 발전은 그 어느 때보다 빠르게 이루어졌습니다. 특히 대형 언어 모델(LLM)은 놀라운 성과를 보여주었으며, 여러 분야에서 새로운 가능성을 열어주고 있습니다. 그러나 대형 언어 모델의 대부분은 폐쇄형으로, 일부 기업에 의해 독점적으로 관리되고 있습니다. 이에 따라 개발자와 연구자들이 AI의 잠재력을 최대한 활용하는 데 한계가 있었습니다.Meta는 이러한 문제를 해결하고 AI 기술의 문을 더 넓게 열기 위해 Llama 모델을 개발하고 공개하였습니다. 특히, 최신 Llama 3.1 405B는 세계 최대 규모의 오픈 소스 기초 모델로, 다국어 지원, 강력한 추론 능력, 확장된 컨텍스트 창(128K)을 자랑합니다. 이번 블로그에서는 Llama 3.1의 주요 특징과 이 모델이 AI 개..

System Engineering 2024.08.15

생성형 AI : RAG (Retrieval-Argumented Generation), LLM 문제점과 RAG에 대한 나만의 정리

최근 후배와 전화 통화 중에 듣게된 RAG가 어떤건지 궁금해서 자료를 찾던 중, 한국에서도 몇몇 잘 정리된 자료들을 찾을 수 있었습니다.이들 자료들을 기반으로 나름 정리를 해 보고자 합니다. 아울러 짬짬이 공개된 API를 기반으로 무언가를 연습해 보는 것도 좋겠다는 생각이 듭니다. 기존 LLM 모델이 갖는 문제점데이터 편향: LLM이 학습한 데이터에 포함된 편향이 그대로 반영되어 성차별, 인종차별 등의 문제가 발생할 수 있음정보의 신뢰성 부족: 생성된 답변이 항상 정확하지 않고(Hallucination), 잘못된 정보를 제공할 가능성이 있음.문맥 이해의 한계: 복잡한 문맥이나 감정, 농담을 제대로 이해하지 못할 때가 있음.프라이버시 문제: 학습된 데이터에 포함된 개인 정보가 의도치 않게 누출될 위험이 있..

System Engineering 2024.08.15

전기차 배터리 관리: 흔한 실수와 잘못된 상식 3가지

최근 인천 아파트에서 발생한 전기차 배터리 화재 사건으로 인해 전기차에 대한 관심과 위험성에 대한 관심이 급증하고 있습니다. 사실 전기차는 친환경적이고 유지비가 낮아 점점 더 많은 사람들에게 인기를 끌고 있었지만, 최근 이 사고로 인해 그 위험성에 대한 경각심도 높아진 거 같습니다. 따라서 전기차의 핵심인 배터리를 올바르게 관리하지 않으면 앞서 언급한 화재 사고뿐만 아니라 급격한 성능 저하도 있을 수 있기 때문에 전기차 사용자들이 배터리 수명을 연장하고 차량 성능을 최적화하기 위해서는 올바른 습관을 유지하는 것이 필수적입니다.오늘은 많은 운전자가 무의식적으로 배터리에 악영향을 미칠 수 있는 잘못된 습관을 알아보고, 이런 습관들은 단순한 관리 실수에서 비롯되며, 장기적으로 차량의 성능 저하와 배터리 교체 ..

Automotive 2024.08.15
728x90
반응형