AI PLATFORM
© 2026
TECH · SYNERGY
AI플랫폼
한 장의 가속기를 여럿이 안전하게 나눠 씁니다.
공유하려면 먼저 나눌 수 있어야 합니다.
AI 가속기는 AI의 연산을 빠르게 처리하는 장치입니다. GPU나 NPU처럼 대량의 계산을 동시에 처리하는 데 특화되어 있으며, AI 모델을 학습하거나 실제 서비스를 실행하는 데 핵심적인 연산 자원으로 사용됩니다.
하지만 가속기를 서버에 장착하는 것만으로 여러 사용자가 함께 사용할 수 있는 것은 아닙니다. 하나의 가속기를 여러 사용자가 공유하려면 연산 성능과 메모리를 각 작업에 맞게 나누어 배정하고, 서로의 영역을 분리할 수 있어야 합니다. 한 작업이 지나치게 많은 자원을 사용해 다른 작업의 성능에 영향을 주거나, 서로의 데이터가 섞이거나 노출되어서는 안 됩니다. 이를 위해서는 하나의 물리 가속기를 여러 개의 독립된 자원처럼 나누고, 각 영역의 연산과 메모리를 서로 분리하는 기술이 필요합니다.
같은 '가상화'라도,격리의 깊이는 다릅니다.
NPU 지원
드라이버·런타임 호환을 제공할 뿐, 자원 격리는 제공하지 않습니다.
NPU 오케스트레이션
스케줄러 수준에서 자원을 배분하지만, 커널 이하의 자원은 여전히 공유됩니다.
NPU 디바이스 가상화
SR-IOV 기반으로 하드웨어를 격리하고, 하나의 NPU를 1·2·4·8개 단위로 서브분할합니다.
드라이버·런타임 호환이나 스케줄러 기반 자원 배분이 소프트웨어 수준의 지원이라면, 아이에이는 SR-IOV 기반으로 하나의 NPU를 1·2·4·8개 단위로 직접 서브분할합니다. 자원의 경계가 장치 안에서 형성되기 때문에, 각 워크로드는 분리된 자원 영역을 기반으로 동작합니다.
자원을 나누는 방식이운영의 안정성을 결정합니다.
소프트웨어 스케줄링이 자원을 시간 단위로 나눈다면, SR-IOV 기반 분할은 장치 내부에서 연산 자원의 경계를 나눕니다. 여러 워크로드가 동시에 실행되더라도 서로의 자원 영역에 미치는 영향을 줄여, 할당된 자원을 보다 안정적이고 예측 가능하게 운영할 수 있습니다.
격리된 자원은 필요한 곳에 필요한 만큼 배분할 수 있습니다. 하나의 가속기를 여러 워크로드가 공유하면서도 각각의 자원 범위를 유지할 수 있기 때문에, 전용 장치를 별도로 구성하는 방식보다 유휴 자원을 줄이고 인프라의 활용도를 높일 수 있습니다.
결국 필요한 것은믿고 맡길 수 있는 인프라입니다.
여러 고객과 여러 워크로드가 하나의 인프라를 함께 사용하려면 자원이 충분한 것만으로는 부족합니다. 누가 어떤 자원을 사용하고 어디까지 접근할 수 있는지, 서로의 영역이 실제로 분리되어 있는지가 먼저 보장되어야 합니다.
특히 데이터와 연산 환경의 통제가 중요한 공공·금융 영역에서는 이러한 격리가 서비스 도입의 전제가 됩니다. 하드웨어에서부터 자원의 경계를 명확히 하는 것은 하나의 인프라를 안전하게 공유할 수 있는 기반이며, 아이에이가 연산 자원을 클라우드 서비스와 생성형 AI까지 확장할 수 있는 출발점이 됩니다.