.png){kind=logo}
추론 속도 4배 전력소비 절반 KAIST 차세대 AI 반도체 두뇌 개발
작성자 정보
- 라이더 작성
- 작성일
본문
역외 1414 7원 1 05원 하락 출발 전망새벽 2시 마감가 1417 9원미국 지역은행 부실 대출 우려에 약달러 한미 협상 마무리 국면 서학개미 달러 수요 원 달러 환율은 1410원대에서 움직일 것으로 전망됩니다 글로벌 달러화 약세가 지속되고 있고 한미 관세협상 타결 가능성이 커지면서 환율이 하락 압력을 받을 것으로 보인다
AFP17일 서울외국환중개에 따르면 간밤 뉴욕차액결제선물환 시장에서 거래된 원 달러 1개월물은 1414 7원에 최종 호가됐습니다 최근 1개월물 스와프 포인트 를 고려하면 이날 환율은 전 거래일 종가 대비 1 05원 하락 개장할 것으로 보인다 새벽 2시 마감가는 1417
9원입니다 전날 오후 3시 30분 종가와 같았습니다 간밤 미국 지역은행 우려에 위험회피 분위기가 확산됐습니다 대형 은행의 양호한 실적 발표에도 불구하고 자이언스 뱅코프와 웨스턴 얼라이언스 뱅코프가 모두 부실 대출 우려를 낳고 있어 지역 은행의 대출 장부 건전성에 대한 시장의 의심이 확대됐습니다 미국채 금리는 지역은행 이슈에 관심이 쏠리자 하락 전환했으며 달러화 가치 역시 약세 폭을 확대했습니다
미국 연방준비제도 이사의 비둘기파적 발언도 경기 둔화 우려를 확대했습니다 스티브 마이런 이사와 크리스토퍼 월러 이사는 무역 분쟁이 경제 성장의 하방을 키운다고 언급하며 추가 금리 인하 필요성을 역설했습니다 이에 달러화는 약세를 지속했습니다 달러인덱스는 16일 오후 7시 8분 기준 98 28을 기록하고 있습니다
달러 약세에 주요 아시아 통화는 강세다 e편한세상 에코델타 센터포인트 달러 엔 환율은 150엔대 달러 위안 환율은 7
12위안대로 내려왔습니다 이날 달러 약세를 따라 환율은 하락 압력이 크겠다 또 한미 관세협상이 마무리 국면으로 접어들고 있는 점도 환율 하락 기대를 키운다 김용범 대통령실 정책실장은 16일 도널드 트럼프 미국 행정부와의 관세협상에 나서며 지금까지와 비교해볼 때 가장 양국이 진지하고 건설적인 분위기에서 협상하고 있는 시기 라고 강조했습니다 다만 여전히 미국주식을 매수하는 서학개미가 달러에 대한 수요를 높이고 있는 점은 환율 하단을 단단하게 만들 것으로 관측됩니다
KAIST미국 조지아 공대스웨덴 웁살라대 공동 성과 기존 GPU 대비 연산속도 4 1배 에너지소비 2 2배 절감오성룡 KAIST 박사과정 김윤성김원웅이유빈 박사과정 정지용 석사과정 박종세 KAIST 전산학부 교수 다비야 마하찬 조지아텍 교수 박창현 스웨덴 웁살라 대학 교수
최근 인공지능 모델이 길고 복잡한 문장을 이해하고 처리하는 능력이 커지면서 연산 속도와 메모리 효율을 동시에 높일 수 있는 새로운 반도체 기술의 필요성이 커지고 있습니다 우리나라를 포함한 국제 공동연구진이 거대언어모델 의 추론 속도는 4배 높이면서 전력 소비는 2 2배 줄인 AI 반도체 핵심 두뇌기술을 개발하는데 성공했습니다
KAIST는 전산학부 박종세 교수 연구팀이 미국 조지아 공과대학교 스웨덴 웁살라 대학교와 공동연구를 통해 차세대 인공지능 모델의 두뇌 역할을 하는 AI 메모리 반도체 기반 기술 PIMBA 를 개발했다고 17일 밝혔습니다 현재 ChatGPT GPT4 Claude Gemini Llama 등 LLM은 모든 단어를 동시에 보는 트랜스포머 두뇌 구조를 기반으로 작동합니다 이에 따라 AI 모델이 커지고 처리 문장이 길어질수록 연산량과 메모리 요구량이 급증해 속도 저하와 에너지 소모가 주요 문제로 지적돼 왔습니다
이런 트랜스포머 문제점을 보완하기 위해 최근 제시된 순차형 기억형 두뇌인 맘바 구조는 시간의 흐름에 따라 정보를 처리하는 방식을 도입해 효율을 높였지만 여전히 메모리 병목 현상 과 전력 소모 한계가 남아 있었습니다 포스트트랜스포머 모델 분석 및 문제해결형 가속 시스템 제안 모식도 박종세 교수 연구팀은 트랜스포머와 맘바의 장점을 결합한 트랜스포머맘바 하이브리드 모델 의 성능을 극대화하기 위해 연산을 메모리 내부에서 직접 수행하는 새로운 반도체 구조 PIMBA 를 설계했습니다
기존 GPU 기반 시스템은 데이터를 메모리 밖으로 옮겨 연산을 수행하지만 PIMBA는 데이터를 옮기지 않고 저장장치 내부에서 바로 계산을 수행합니다 이로써 데이터 이동 시간을 최소화하고 전력 소모를 크게 줄일 수 있습니다 광주 금호지구 대광로제비앙
그 결과 실제 실험에서 PIMBA는 기존 GPU 시스템 대비 처리 성능이 최대 4 1배 향상되었고 에너지 소비는 평균 2 2배 감소하는 성과를 보였습니다 이번 연구 성과는 오는 10월 20일 서울에서 열리는 세계적 컴퓨터 구조 학술대회 제58회 국제 마이크로아키텍처 심포지엄 에서 발표될 예정이며 앞서 제31회 삼성휴먼테크 논문대상 금상을 수상해 우수성을 인정받았습니다
AFP17일 서울외국환중개에 따르면 간밤 뉴욕차액결제선물환 시장에서 거래된 원 달러 1개월물은 1414 7원에 최종 호가됐습니다 최근 1개월물 스와프 포인트 를 고려하면 이날 환율은 전 거래일 종가 대비 1 05원 하락 개장할 것으로 보인다 새벽 2시 마감가는 1417
9원입니다 전날 오후 3시 30분 종가와 같았습니다 간밤 미국 지역은행 우려에 위험회피 분위기가 확산됐습니다 대형 은행의 양호한 실적 발표에도 불구하고 자이언스 뱅코프와 웨스턴 얼라이언스 뱅코프가 모두 부실 대출 우려를 낳고 있어 지역 은행의 대출 장부 건전성에 대한 시장의 의심이 확대됐습니다 미국채 금리는 지역은행 이슈에 관심이 쏠리자 하락 전환했으며 달러화 가치 역시 약세 폭을 확대했습니다
미국 연방준비제도 이사의 비둘기파적 발언도 경기 둔화 우려를 확대했습니다 스티브 마이런 이사와 크리스토퍼 월러 이사는 무역 분쟁이 경제 성장의 하방을 키운다고 언급하며 추가 금리 인하 필요성을 역설했습니다 이에 달러화는 약세를 지속했습니다 달러인덱스는 16일 오후 7시 8분 기준 98 28을 기록하고 있습니다
달러 약세에 주요 아시아 통화는 강세다 e편한세상 에코델타 센터포인트 달러 엔 환율은 150엔대 달러 위안 환율은 7
12위안대로 내려왔습니다 이날 달러 약세를 따라 환율은 하락 압력이 크겠다 또 한미 관세협상이 마무리 국면으로 접어들고 있는 점도 환율 하락 기대를 키운다 김용범 대통령실 정책실장은 16일 도널드 트럼프 미국 행정부와의 관세협상에 나서며 지금까지와 비교해볼 때 가장 양국이 진지하고 건설적인 분위기에서 협상하고 있는 시기 라고 강조했습니다 다만 여전히 미국주식을 매수하는 서학개미가 달러에 대한 수요를 높이고 있는 점은 환율 하단을 단단하게 만들 것으로 관측됩니다
KAIST미국 조지아 공대스웨덴 웁살라대 공동 성과 기존 GPU 대비 연산속도 4 1배 에너지소비 2 2배 절감오성룡 KAIST 박사과정 김윤성김원웅이유빈 박사과정 정지용 석사과정 박종세 KAIST 전산학부 교수 다비야 마하찬 조지아텍 교수 박창현 스웨덴 웁살라 대학 교수
최근 인공지능 모델이 길고 복잡한 문장을 이해하고 처리하는 능력이 커지면서 연산 속도와 메모리 효율을 동시에 높일 수 있는 새로운 반도체 기술의 필요성이 커지고 있습니다 우리나라를 포함한 국제 공동연구진이 거대언어모델 의 추론 속도는 4배 높이면서 전력 소비는 2 2배 줄인 AI 반도체 핵심 두뇌기술을 개발하는데 성공했습니다
KAIST는 전산학부 박종세 교수 연구팀이 미국 조지아 공과대학교 스웨덴 웁살라 대학교와 공동연구를 통해 차세대 인공지능 모델의 두뇌 역할을 하는 AI 메모리 반도체 기반 기술 PIMBA 를 개발했다고 17일 밝혔습니다 현재 ChatGPT GPT4 Claude Gemini Llama 등 LLM은 모든 단어를 동시에 보는 트랜스포머 두뇌 구조를 기반으로 작동합니다 이에 따라 AI 모델이 커지고 처리 문장이 길어질수록 연산량과 메모리 요구량이 급증해 속도 저하와 에너지 소모가 주요 문제로 지적돼 왔습니다
이런 트랜스포머 문제점을 보완하기 위해 최근 제시된 순차형 기억형 두뇌인 맘바 구조는 시간의 흐름에 따라 정보를 처리하는 방식을 도입해 효율을 높였지만 여전히 메모리 병목 현상 과 전력 소모 한계가 남아 있었습니다 포스트트랜스포머 모델 분석 및 문제해결형 가속 시스템 제안 모식도 박종세 교수 연구팀은 트랜스포머와 맘바의 장점을 결합한 트랜스포머맘바 하이브리드 모델 의 성능을 극대화하기 위해 연산을 메모리 내부에서 직접 수행하는 새로운 반도체 구조 PIMBA 를 설계했습니다
기존 GPU 기반 시스템은 데이터를 메모리 밖으로 옮겨 연산을 수행하지만 PIMBA는 데이터를 옮기지 않고 저장장치 내부에서 바로 계산을 수행합니다 이로써 데이터 이동 시간을 최소화하고 전력 소모를 크게 줄일 수 있습니다 광주 금호지구 대광로제비앙
그 결과 실제 실험에서 PIMBA는 기존 GPU 시스템 대비 처리 성능이 최대 4 1배 향상되었고 에너지 소비는 평균 2 2배 감소하는 성과를 보였습니다 이번 연구 성과는 오는 10월 20일 서울에서 열리는 세계적 컴퓨터 구조 학술대회 제58회 국제 마이크로아키텍처 심포지엄 에서 발표될 예정이며 앞서 제31회 삼성휴먼테크 논문대상 금상을 수상해 우수성을 인정받았습니다
관련자료
-
이전
-
다음
댓글 0
등록된 댓글이 없습니다.
