헬로티 이동재 기자 | 기계 학습(ML) 알고리즘은 한때 주로 고성능 데이터센터 컴퓨팅 플랫폼에서만 접할 수 있었지만 지금은 에지(edge)로 점차 확장되어 가는 추세다. 에지 디바이스에서 실행되는 ML 알고리즘이 발전하면서 전력, 성능과 면적에 최적화된 하드웨어 아키텍처가 크게 증가하게 됐다. ML을 에지(edge)로 옮기려면 전력과 성능 면에서 중요한 요구사항이 뒤따른다. 평범한 상용 솔루션을 사용하는 방안은 실용적이지 않다. CPU는 너무 느리고, GPU/TPU는 비싼 데다 전력 소모량이 너무 크며 심지어 일반적인 기계 학습 가속기조차 사양이 과도하고 전력에 최적화되어 있지 않다. 이번 리포트에서는 차세대 에지 기계 학습 하드웨어 수요에 부합하는 효율적인 하드웨어 아키텍처를 만드는 방법에 대해 다룬다.
[첨단 헬로티] 모바일 라이브 스트리밍과 TV 방송 사이의 지연 시간 최소화 GS네오텍이 최근 기존 라이브 서비스 송출간 발생하는 지연 시간(Latency)을 최소화 해 실시간 송출을 구현하도록 지원하는 ‘초저지연(Ultra-Low Latency) 라이브 서비스’를 출시했다고 밝혔다. ▲GS네오텍 초저지연 라이브 서비스 GS네오텍이 발표한 ‘초저지연 라이브 서비스’는 CMAF(Common Media Application Format) 기술을 기반으로, 기존 라이브 서비스 송출 간에 발생했던 지연시간을 약 10초에서 1~2초 수준으로 최소화 해 시청자가 괴리감 없이 현장 상황을 경험하도록 지연시간을 대폭 감소시킨 서비스다. 콘텐츠 공급자의 경우에는 고품질 영상을 끊김 없이 전송할 수 있게 돼 국내 최고 수준의 콘텐츠 전송 네트워크(CDN) 경험을 제공할 수 있다. 그간 라이브 서비스에서 가장 보편적으로 활용된 HLS(HTTP Live Streaming) 기술은 초기 상용화 당시 약 30초 이상의 라이브 지연 시간이 존재했다. 차후 최적화를 위한 업계의 노력에도 불구하고 지연시간을 약 10초 수준으로 감소시키는 것에 그