# TCP를 대체하는 통신 프로토콜 “Homa”를 스탠포드 대학교 명예교수가 제안하고, AI 시대에는 1밀리초의 지연으로도 GPU가 기다려지는 현상이 발생

> https://bookfactory.kr/board/news/20239
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-10-06T05:14:04.093Z

---

웹과 클라우드를 지원하는 통신 프로토콜 “TCP”는 AI용 데이터 센터의 통신에는 적합하지 않다고 판단되어, 스탠포드 대학교 존 오스터하우트 명예 교수가 트랜스포트 프로토콜 “Homa”로의 전환을 촉구하고 있습니다. Homa는 짧은 메시지를 우선적으로 처리함으로써 통신 지연을 억제하는 메커니즘을 갖추고 있으며, 기존의 TCP와 병행하여 도입될 수 있다고 합니다. The Homa 네트워크 프로토콜 [LWN.net]https://lwn.net/Articles/1003059/Homa: The End of TCP for AI Clusters — John Ousterhout, Stanford - YouTube

Linux Kernel 구현의 Homa Transport Protocol (PDF 파일)https://www.usenix.org/system/files/atc21-ousterhout.pdf 스탠포드 교수진은 TCP를 대체할 새로운 프로토콜을 홍보하고 있습니다. https://www.theregister.com/networks/2026/10/01/stanford-prof-is-beating-the-drum-for-a-new-protocol-to-replace-tcp/ 5300629 TCP는 전송된 데이터를 상대방에게 도착했는지 확인하면서 통신을 진행하는 메커니즘으로, 웹을 비롯하여 다양한 용도로 사용됩니다. 높은 신뢰도의 통신을 실현하는 동시에, 연결마다 상태를 관리하고 데이터를 전송 순서대로 배열한 “바이트 스트림”으로 처리한다는 특징이 있습니다.

일반적인 인터넷 통신에서는 오랫동안 활약해 온 TCP이지만, 데이터 센터에서는 물리적으로 가까운 다수의 컴퓨터가 세밀한 요청을 대량으로 주고받기 때문에 연결 관리 및 전송 순서 보장과 관련된 처리가 통신 시간에 미치는 비율이 큽니다. 더불어, AI용 대규모 클러스터에서는 모델의 가중치 및 기울기 등 대규모 데이터 전송과 KV 캐시 검색 및 메타 데이터 조정과 같은 짧은 통신이 같은 네트워크 상을 흐르는 것을 관리하는 것이 중요합니다. 이러한 크고 작은 데이터의 통신을 각각 관리하여 지연을 최소화해야 합니다. 오스턴하우트 氏は「중요한 것은 레이턴시다」라고 지적하며, 1밀리초 지연이라도 고가의 GPU가 처리하는 데 기다리는 시간이 연결될 수 있다고 밝혔습니다. 즉, 네트워크 지연이 GPU 성능에 미치는 영향이 매우 크다는 점을 강조했습니다.

TCP에서는 송신측이 네트워크 혼잡 정도를 추측しながら 전송량을 조정하지만, 수신측으로부터 届く 응답 등을 단서로 속도를 낮추기 때문에, 개별 송신측에게는 다른 전송원까지 포함하여 수신측으로 얼마나 통신이 집중되어 있는지를 파악하기 어렵고 혼잡에 대한 대응이 늦어지기 쉽습니다. 또한, TCP는 데이터를 일続き의 스트림으로 취급하기 때문에, 짧은 메시지와 긴 메시지를 구별하여 짧은 것만 먼저 전달하는仕組み도 갖추고 있지 않습니다.  유사한 문제는 웹에서도 이전에 지적되어 왔으며, TCP상에서 동작하는 HTTP/2에서는 패킷이 손실되면 후속 데이터가 대기하는 “Head-of-Line Blocking”이 발생합니다. 웹에 적합하게 TCP 대신 QUIC를 이용하는 HTTP/3가 등장했으며, GIGAZINE에서도 과거 다음과 같은 기사에서 자세히 설명하고 있습니다. 웹을 지탱하는 HTTP 통신은 어떻게 진화하고 있는가 - GIGAZINE

호마(Homa)는 데이터센터용 통신을 재설계함으로써 TCP에서 발생하는 문제를 해결하고자 합니다. 호마 연구는 2018년에 발표된 논문까지 거슬러 올라가며, 베나름·몬타제리(Benjam Montagutze) 氏와 오스터하우트(Osterhout) 氏들은 “짧은 메시지의 저지연”과 “높은 네트워크 사용률”을 동시에 달성하는 프로토콜로 호마를 제안했습니다. 호마의 큰 특징은 TCP와 같은 스트림형이 아닌 “메시지형”으로 통신하는 데 있습니다. 호마는 RPC(Remote Procedure Call)라는 다른 컴퓨터 상의 처리를 호출하는 메커니즘을 염두에 두고 있으며, 전송하는 메시지의 길이는 처음부터 알려집니다. 수신측은 남은 데이터량을 파악할 수 있으므로, 짧은 시간 안에 수신될 수 있는 메시지를 우선적으로 처리할 수 있습니다. 더 나아가 호마에서는 혼잡 제어의 주도권을 수신측에 두어 수신측이 도착 예정 메시지량을 확인하고, 어떤 송자가 얼마나 데이터를 보내도 되는지 “GRANT”라는 알림으로 지정합니다. 엄청난 통신이 1대의 서버에 쏟아진 경우에도 수신측이 도착 순서를 조율하기 쉬워집니다. 짧은 메시지를 정체 현상에 가두지 않도록 호마는 네트워크 장비의 우선순위 큐도 활용합니다. 연구팀이 2018년에 공개한 호마에서는 수신 완료까지 남은 데이터량이 적은 통신일수록 우선순위를 높이는 방식을 채택했습니다. 큰 데이터 전송 뒤에 작은 요청이 대기하는 시간을 줄이는 것이 목표입니다. 오스터하우트(Osterhout) 氏가 The Register에 제시한 100Gbps·네트워크 사용률 80%라는 조건에서의 비교에서, 짧은 메시지의 99퍼센트일 지연(99th percentile latency)은 TCP에서는 1.2 밀리초였지만, 호마에서는 92 마이크로초로 TCP의 약 13분의 1이었습니다. 긴 메시지에서도 호마는 TCP의 약 2배의 성능을 보였으며, 오스터하우트 氏は 주장했습니다. 2021년에 공개된 Linux 커널용 호마 구현 논문에서도, 40대의 머신을 사용한 테스트에서 호마는 모든 메시지 크기에서 TCP와 DCTCP보다 낮은 지연을 기록했으며, 짧은 메시지의 99퍼센트일 지연은 TCP의 19분의 1에서 72분의 1, DCTCP의 7분의 1에서 83분의 1이었습니다.

호마(Homa)로의 전환은 단계적으로 수행할 수 있으며, 기존의 TCP 통신을 일괄적으로 폐지할 필요는 없다고 합니다. 공개된 Linux 커널 모듈을 클라이언트와 서버에 도입하면 호마와 TCP를 병행하여 사용할 수 있으므로, 애플리케이션을 순차적으로 호마로 전환할 수 있습니다. 오스터하우트(Ousterhout) 氏は호마와 TCP를 동시에 사용한 경우의 성능 개선에도 참여하고 있으며, GitHub에서는 2026년 1월에 양자를 공존시킬 때의 통신 제어를 개선하는 “homa_qdisc”가 추가되었습니다. 호마는 연구에만 국한되지 않고 표준화 및 Linux로의 도입도 진행되고 있습니다. IANA(Internet Assigned Numbers Authority)는 호마에 IP 프로토콜 번호 “146”를 할당했으며, 오스터하우트 氏は호마를 Linux 본체에 포함하기 위한 패치를 지속적으로 제출하고 있습니다. GitHub 구현에도 개발이 이어지고 있으며, 2026년 3월에는 Red Hat Enterprise Linux 8 및 9.5에 백포팅이 실시되었고,同年 9월에는 데이터 전송 허가 메커니즘이 변경되었습니다. GitHub - PlatformLab/HomaModule: A Linux kernel module that implements the Homa transport protocol. · GitHubhttps://github.com/PlatformLab/HomaModule 웹 세계에서는 TCP의 문제를 회피하기 위해 QUIC가 보급되었지만, 호마가 목표하는 것은 데이터 센터 내부의 RPC입니다. 오스터하우트 氏はIETF에서의 표준화에 대한 문서 작성 및 Linux와의 통합 작업을 진행할 뿐만 아니라, 대규모 금융 서비스 기업과 호마를 사용한 시제품 개발에 참여하고 있다고 합니다. 반세기 가까이 네트워크의 주역을 담당해온 TCP를 즉시 밀어내는 것이 아니며, 먼저 AI 클러스터와 같이 지연에 대한 요구가 까다로운 곳에서 호마를 확산해나가는 방안을 제시하고 있습니다. 참고로, 데이터 센터에는 RDMA와 같은 다른 저지연 통신 기술도 사용됩니다. 메타(Meta)가 100만 GPU 규모를 예상한 새로운 통신 프로토콜 “MetaRoCE”를 발표했으며, 패킷 손실을 전제로 Ethernet으로 AI 클러스터를 고속으로 연결 - GIGAZINE

[원문 보기](https://gigazine.net/news/20261006-homa-protocol-replace-tcp/) | 출처: Gigazine