코어 장치의 부팅 시간을 몇 시간에서 몇 분으로 단축한 방법
우리는 펌웨어 업데이트로 인해 코어 서버가 재부팅되는 데 4시간이 걸리는 이유를 조사했습니다. UEFI 데이터 구조와 iPXE 자동화를 자세히 살펴본 결과, 불필요한 제한 시간 초과를 제거하고 부팅 시간을 몇 분 단위로 단축할 수 있었습니다.
태그
인프라
초대형 언어 모델을 실행하기 위한 기반 다지기
Cloudflare는 자체 인프라 환경에서 대규모 언어 모델을 신속하게 실행할 수 있도록 맞춤형 기술 스택을 구축했습니다. 본 게시물에서는 누구나 고성능 AI 추론 환경을 활용할 수 있도록 구현하는 과정에서 적용된 엔지니어링 측면의 절충 사항과 기술적 최적화 과정을 살펴봅니다.
한 줄 쿠버네티스 수정으로 연간 600시간 절약
Atlantis 인스턴스를 다시 시작하는 데 30분이 걸리는 이유를 조사한 결과, Kubernetes가 볼륨 권한을 처리하는 방식에서 병목 현상을 발견했습니다. 우리는 fsGroupchangePolicy를 조정하여 재시작 시간을 30초로 단축했습니다.
Cloudflare의 13세대 서버 출시: 캐시를 코어로 바꾸어 에지 컴퓨팅 성능 2배 향상
Cloudflare의 13세대 서버는 캐시와 코어의 균형을 다시 잡아 우리 컴퓨팅 처리량을 두 배로 늘렸습니다. 코어 수가 많은 AMD EPYC ™ Turin CPU로 이동하면서, 원시 컴퓨팅 밀도를 위해 대규모 L3 캐시를 바꿨습니다. 새로운 Rust 기반 FL2 스택을 실행함으로써 우리는 대기 시간 페널티를 완전히 완화하여 성능을 두 배나 개선했습니다.
ecdysis로 오래된 코드 사용하기: Cloudflare의 Rust 서비스를 위한 우아한 재시작
ecdysis는 네트워크 서비스의 다운타임 없이 업그레이드할 수 있는 Rust 라이브러리입니다. Cloudflare에서는 수백만 개의 연결을 5년 동안 보호해 온 이후, 이제 오픈 소스가 되었습니다.
Workers가 내부 유지 관리 일정 파이프라인을 강화하는 방법
물리적 데이터 센터 유지 관리는 전역 네트워크에서 위험합니다. 당사는 중단되는 작업을 안전하게 계획할 수 있도록 워커스에 유지 관리 스케줄러를 구축했으며, 여러 데이터 소스와 메트릭 파이프라인 위에 있는 그래프 인터페이스를 통해 인프라 상태를 확인하여 확장 문제를 해결했습니다.
