OpenSSL, Base64 변환 버퍼 넘침과 수정안의 쟁점

OpenSSL의 Base64 변환 함수에서 버퍼 넘침 취약점 CVE-2026-121481을 고치는 수정안이 논의됐다. 긴 입력의 길이 검사뿐 아니라 기존 프로그램과의 호환성이 쟁점이다. 재현 조건과 수정 경과를 통해 운영자가 확인할 부분을 짚는다.

OpenSSL은 TLS(인터넷 통신을 암호화하는 규약)와 여러 암호 기능을 제공하는 오픈소스 라이브러리다. 이번에 수정 대상으로 오른 CVE-2026-121481은 데이터를 Base64로 바꾸는 EVP_EncodeBlock()의 버퍼 넘침, 즉 정해진 메모리 영역 밖에 데이터를 쓰는 문제다. 공개 수정 논의에서는 길이 검사를 추가하는 방법뿐 아니라, 그 변화가 기존 프로그램을 망가뜨리지 않게 하는 방법까지 다뤄졌다.

입력보다 길어지는 출력이 문제의 출발점

Base64는 데이터를 문자 형태로 표현하는 방식으로, 입력 3바이트가 출력 4바이트로 늘어난다. 이 함수는 입력 길이가 3의 배수가 아니면 나머지를 채우고, 끝을 표시하는 문자도 덧붙인다. 반환값은 끝 표시를 제외한 출력 길이인데, 수정안은 이 길이가 C의 정수형 int에 담기지 않는 입력을 문제 조건으로 짚었다. 입력 크기만 볼 것이 아니라 변환 뒤 길이까지 계산해야 하는 구조다.

수정안 작성자는 명령행 도구에서도 문제를 재현할 수 있다고 밝혔다. openssl s_client에 매우 긴 프록시 비밀번호를 전달하는 경로이며, 명령행 길이 제한 때문에 환경변수를 통해 비밀번호를 공급해야 한다는 설명이다. 또 GOST가 이런 긴 비밀번호를 기본 설정에서 받아들이는 것을 확인했다고 덧붙였다. 이는 구체적인 재현 경로이며, 일반적인 통신 요청만으로 같은 조건에 도달한다는 증거는 아니다.

오류를 돌려주는 수정도 호환성을 따져야 했다

최초 제안은 잘못된 입력에 -1을 반환하는 방식이었다. 빈 포인터와 음수 길이, 출력 길이가 int의 범위를 넘는 경우를 거부하고, 반대로 변환하는 EVP_DecodeBlock()에도 검사를 넣겠다는 내용이다. 검토자는 새롭게 실패할 수 있게 된 함수의 반환값을 호출하는 쪽에서도 확인해야 한다며, 실제로 점검이 필요한 두 호출 지점을 지적했다. 수정 대상 함수 안에 검사만 추가해서 끝낼 수 없었던 셈이다.

다른 검토자는 기존 프로그램이 음수 반환값을 확인하지 않은 채 크기를 나타내는 형으로 바꿔 쓸 수 있다고 우려했다. 그렇다고 오류 때 0을 반환하면, 빈 입력을 정상 처리했을 때의 0과 구별하기 어렵다는 것이 작성자의 설명이었다. 논의 뒤 인코딩 함수의 길이 상한은 OPENSSL_assert()(허용 조건을 코드에서 강제하는 검사)로 확인하는 방향으로 바뀌었다. 작성자는 기존에 정상적으로 정의된 동작은 유지하고, 새 오류값 때문에 외부 프로그램이 바뀌어야 하는 상황을 피하려는 선택이라고 밝혔다.

빈 입력을 다루는 방식도 검토 과정에서 손질됐다. 한 검토자는 입력 길이가 0이고 입력 포인터가 비어 있는 호출까지 일괄 거부하면, 이전에 작동하던 프로그램의 동작이 달라진다고 지적했다. 작성자는 이를 보존하도록 수정했으며, 변경 기록에는 길이 0인 입력의 기존 동작을 확인하는 시험 추가도 포함됐다. 반면 디코딩 함수의 음수 길이는 이미 문서에 있는 오류값 -1을 반환하도록 후속 검토 의견이 반영됐다.

설치 버전과 호출 경로를 함께 볼 때

이 수정안에는 master와 4.0, 4.1 브랜치에 적용된다는 표시가 붙었다. 실제 사용 환경을 보여 주는 댓글에서는 한 사용자가 자신의 Arch 패키지 조회 결과로 OpenSSL 4.1.0-1과 별도의 openssl-3 패키지 3.5.9-2를 제시했다. 제공된 검토 기록에는 11월 19일 승인과 함께, 이전 브랜치에 수정을 옮기려면 별도 수정 요청이 필요하다는 설명이 남아 있다. 따라서 검토 승인을 자신이 쓰는 배포판의 수정판 제공과 같은 단계로 받아들여서는 안 된다.

OpenSSL은 Apache-2.0 라이선스로 공개되며, 조건을 지키면 상업·비상업 용도로 사용할 수 있다. 여러 운영체제에서 미리 빌드한 패키지를 구할 수 있지만, 프로젝트 자체는 실행용 바이너리를 배포하지 않는다. README는 리눅스와 다른 유닉스 계열에서 배포판이나 공급업체의 공유 라이브러리를 이용하도록 권한다. 이번 문제를 확인할 때도 설치된 버전과 공급 경로를 살피고, 긴 외부 입력이 해당 변환 함수에 도달하는지를 함께 점검하는 편이 실질적인 출발점으로 보인다.

저장소

https://github.com/openssl/openssl

コメント

トレンド

이슈 해광호 수색 중 태안 해저서 선박 추정 물체 발견…정밀 확인
이슈 플라이 투 더 스카이, 8년 만의 신곡과 12월 전국투어
이슈 삼성전자·SK하이닉스, 무디스가 본 2027년 AI 성장
이슈 경기 안심 부동산, 참여 사무소 스티커 12월부터 배부
이슈 마마 어워즈, 방탄소년단 5관왕·코르티스 첫 대상
이슈 구자욱 MLB 신분조회…FA 미국행 추진, 삼성도 재계약 나서
이슈 이정효, 수원 삼성 K리그2 우승…두 구단 정상 이끈 첫 감독
이슈 수원 삼성, K리그1 복귀 이어 최종전 전 K리그2 우승
오픈소스 LookAtMyQuant, Inkling-2-Mini를 5.4GB로 압축
이슈 포스코 노사, 두 번째 임금 잠정안 합의…11월 28일 투표
이슈 경부선 소정리역 화물열차 탈선…천안∼대전 일반열차 중단
이슈 반도체가 이끈 대중 무역흑자, 다른 산업 회복은 더뎌
이슈 지스타 2026, 게임문화 체험과 정부·국회 현장 방문
이슈 트럼프·시진핑·푸틴 첫 3자 회담…핵 대화 합의, 감축은 미정
이슈 엔비디아·AMD 중국 수출 약 88만 개 승인…실제 선적은 불확실
오픈소스 OpenSSL, Base64 변환 버퍼 넘침과 수정안의 쟁점
이슈 논현동 유재석 신축 건물 완공…198억원 매입 부지에 지상 4층
이슈 서울 지하철 2호선 성수지선, 선로전환기 훼손 뒤 운행 재개
이슈 제네시스 G80 하이브리드 첫 공개…352마력·뒷좌석 공간 확대
이슈 PHP 취약점 17건 공개…치명적 7건, 수정 버전 배포
이슈 2호선 성수지선, 선로전환기 문제로 운행 중단 뒤 재개
이슈 앤트로픽 나스닥 상장, 공모·사모 투자로 대규모 자금 조달
이슈 앤트로픽 나스닥 상장…공모·사모 1,073억 달러 조달
오픈소스 OpenJDK, 잘못된 Base64 입력이 메모리를 덮는 버그
이슈 삼성전자·SK하이닉스, 생산 중인 메모리 재고 43조5000억원
이슈 옥주현 속한 핑클, 새 공식 SNS 열고 30주년 음악·공연 예고
이슈 겨울 폭설·한파 대비…안성·시흥·마포·청양 대응 강화
이슈 전국노래자랑 영광군 편, 본선 15팀과 박서진 등 출연
이슈 이란 공습, 바레인 미군 레이더 공격 재개 주장…피해 확인 안 돼
이슈 김건우, APBC 한일 결승 선발 예고…안현민 4번 배치