[AI 실생활체험기] AMD MI355X 한 장이 해낸 복합 추론

요약

300억 개의 파라미터를 가진 모델 두 개가 GPU 한 장 위에서 동시에 돌아간다. 그것도 서로 대화를 주고받으면서, 인터넷을 검색한다. 바코드를 읽어 영양 성분을 분석하고, 텔레그램으로 결과를 보내는 작업을 한꺼번에 처리한다. ‘AMD 인스팅트 & ROCm 워크샵 2026’ 개발자 샌드박스 세션에서 벌어진 일이다. 현장을 찾은 기자들은 여러 클라우드 서비스에 분산해야 가능했던 복합 추론 파이프라인이 GPU 한 장 안에서 돌아가는 장면을 목격했다. ◇ LLM 전용 엔진으로 오픈소스 활용도 높인다이날 세션은 참석한 기자들이 직접 멀티