보안취약점 탐지를 위한 정적 분석기법 비교 연구

Ⅰ. 서 론

소프트웨어 시스템의 안전성을 보장하는 작업은 설계 단계부터 구현, 테스팅과 배포 단계까지 개발 단계별로 매우 다양한 이슈를 가지고 있으며, 모든 단계를 포괄하는 종합적인 소프트웨어 개발보안 솔루션을 도출하는 것은 쉽지 않은 작업이다. 실제로 소프트웨어 개발업체들은 잘 알려진 몇 가지 보안 원칙이나 가이드라인에 의지하여 소프트웨어를 설계하고 개발하고 있는 것이 사실이다[1][2].

개발되는 소프트웨어 시스템의 규모가 커짐에 따라 최근의 소프트웨어 개발은 필요한 모든 코드를 구현하기보다는 이미 개발이 완성된 소프트웨어 컴포넌트(Software component)를 목표 시스템 기능에 맞추어 조합하는 방향으로 발전하고 있다[3]. 예를 들어 아마존 웹서비스(AWS, Amazon Web Services)를 통해서 웹 애플리케이션을 개발하는 경우 개발자는 자신의 비즈니스 로직만을 직접 구현해서 웹서비스를 구성할 수 있다. 애플리케이션 로직을 제외한 부가적인 공통 기능(입력이나 서버 관리, 네트워크 연결 등)은 AWS에서 제공되는 컴포넌트를 활용함으로써 전체 소프트웨어를 개발하는데 드는 시간과 노력을 절약할 수 있게 된 것이다.

문제는 최종 시스템을 구성하는 다양한 소프트웨어 컴포넌트가 서로 다른 보안 기준을 가지고 구현되었을 가능성이 있으며, 결과적으로 소프트웨어 보안의 관점에서 상충되거나 신뢰할 수 없는 상황이 발생할 수 있다는 점이다. 서드파티 컴포넌트(Third-party component)를 사용하는 경우 컴포넌트 API(Application Programming Interface)가 제공하는 보안과 관련된 정보가 충분하지 않다면 결과적으로 서드파티 컴포넌트를 사용하는 최종 시스템에 보안상 위험 요소가 발생할 수 있다.

소프트웨어 보안취약점(Software vulnerability)은 완성된 시스템 내부에 존재하는 보안상의 위험성을 의미한다[4]. 소프트웨어 보안취약점을 발생시키는 요인에는 여러 가지가 있지만 대부분의 보안취약점은 시스템을 구성하는 코드 자체가 보안상 안전하지 않기 때문에 발생한다. 소스 코드 자체에 존재하는 보안상의 위험요소는 소프트웨어 보안약점(Software weakness)이라 부르며, 소스 코드 내부에 숨어 있는 보안약점은 완성된 시스템의 보안취약점을 발생시키는 원인이 된다. 소프트웨어 보안약점은 구현 단계에서 개발자의 실수로 코드에 포함될 수도 있고, 혹은 설계 단계에서의 오류가 원인이 되기도 한다[5]. 특히 서드파티 컴포넌트를 사용하는 경우 개발자는 사용 전에 시스템 구현에 사용할 서드파티 컴포넌트의 보안 안전성에 대해서 확인할 필요가 있다.

개발자는 수동 코드검사(Manual code inspection) 방식으로 시스템 구성에 사용할 소프트웨어 컴포넌트를 직접 검사하여 컴포넌트의 보안 안정성을 검증할 수 있다. 그렇지만 인간에 의한 직접적인 코드검사는 시간과 비용 면에서 소모적일 뿐만 아니라 커버리지가 완전하지 않다는 치명적인 약점을 가지고 있다. 이 문제를 해결하기 위해서 소스 코드를 자동으로 분석하여 코드 내부에 존재하는 소프트웨어 보안약점을 찾아내는 연구가 꾸준히 진행되고 있다. 코드분석 기법들은 동적분석(Dynamic analysis)이나 정적분석(Static analysis) 방식을 택하거나 2가지 방식을 혼합하는 방식을 취하고 있다. 동적분석 방식은 프로그램을 직접 실행시켜서 프로그램 동작을 관찰하고, 이를 바탕으로 프로그램의 보안상 특징과 보안 취약점을 유추하는 방법이다. 동적분석 방식은 비교적 간단하게 타깃 프로그램 내부에 존재하는 보안취약점을 발견할 수 있다는 장점이 있지만, 보안취약점 발견 커버리지가 충분하지 못할 수 있다는 약점을 가지고 있다[6]. 이에 비해서 정적분석 방식은 주어진 보안 정책에 대해서 가능한 모든 위반 사항을 찾아내는 건전성 분석(Sound analysis)이 가능하다는 장점을 가지고 있지만, 거짓 알람(False alarm)이 많이 발생한다는 단점을 가지고 있다[4].

본 논문에서는 보안취약점을 발견하기 위해서 사용되는 정적분석 기법 중에서 정보 흐름과 접근 제어의 영역을 중심으로 최근까지의 연구 동향을 분석하고자 한다. 2장에서는 보안약점으로 인하여 발생하는 시스템 침해가능성을 무결성과 기밀성의 측면에서 살펴보고, 해당 보안요소를 정보흐름과 접근제어 관점에서 분석한다. 3장에서는 정보흐름을 분석하는 정적분석 기법에 대해서 논의하고, 4장에서는 접근제어 분석 기법을 스택 중심의 방식과 역할 중심의 방식으로 나누어 분석한다.

마지막으로 5장에서는 결론과 향후 추가적인 연구가 필요한 연구방향에 대해서 논의한다.

Ⅱ. 보안취약점과 보안요소 침해

소프트웨어 시스템 내부의 보안취약점은 주로 시스템의 무결성(Integrity)과 기밀성(Confidentiality)를 침해하는 공격에 악용되기 쉽다. 본 장에서는 컴포넌트로 구성된 시스템에서 시스템 무결성과 기밀성 침해가 발생하는 상황을 분석하고, 이 2가지 보안요소가 정보흐름 및 접근제어와 어떤 연관성을 가지는지 설명한다.

Ⅲ. 정보 흐름 분석

3.2 정보흐름분석 동향

정보흐름 분석에서 널리 사용되는 오염 변수(Tainted variable) 개념은 Perl 언어에 포함된 이후 본격적으로 알려지게 되었다. 오염 변수는 시스템 보안을 훼손하는 정보흐름이 있는지를 탐지하기 위해서 사용된다.

CQual은 변수의 오염 여부를 표시하는 추가적인 타입 한정자(Type quantifier)를 제공한다.

변수 오염을 표시하기 위해서 사용되는 타입 한정자는 tainted와 untainted로, 개발자는 각 변수에 대해서 오염 가능성을 표시할 수 있다. 어떤 변수가 외부 공격자에 의해서 오염될 가능성이 있는 경우에는 tainted 타입으로, 그렇지 않은 경우에는 untainted 타입으로 표시한다. 정보흐름 분석기는 주어진 타입 한정자 정보를 이용하여 제약조건 그래프(Constraint graphs)를 생성하고, 그래프 상에서 tainted 노드에서 untainted 노드로 정보흐름이 있는지 분석하여 정보흐름 안전성을 확인한다[11].

Newsome과 Song은 오염 변수를 런타임에 모니터링하고 분석하는 기법을 제안하였다[8]. 제안된 기법에서는 신뢰할 수 없는 출처에서 전달된 값이나 이 값을 기반으로 계산된 값을 모두 오염된 값으로 간주하고 런타임에 오염된 변수에 대한 모니터링을 수행하였다.

Enck 등은 Newsome이 제안한 동적인 오염변수 분석 기법을 안드로이드 플랫폼에 적용한 TaintDroid 프레임워크를 제안하였다. TaintDroid는 정보흐름 분석을 활용하여 스마트폰 서드파티 앱에서 접근하는 개인 정보를 실시간으로 추적하고 보호하는 것이 가능함을 보였다[12].

Shivakumar는 정보 흐름을 고려한 프로그래밍 언어 FaCT를 제안했는데, FaCT 컴파일러는 프로그램 내부의 정보 흐름을 분석하여 정해진 보안 규칙을 벗어나는 정보 흐름을 찾아낼 수 있다[13]. 프로그래머는 예외적인 경우 declassify 구성자(Construct)를 활용하여 의도적으로 정보를 유출시킬 수 있는데, 이 방법을 통해서 정보흐름 분석에서는 비밀로 간주되는 암호문이나 퍼블릭 암호화키를 외부로 공개할 수 있다. 또한 Shivakumar는 FaCT를 활용하여 프로그래머의 의도와는 다르게 원하는 않는 정보를 유출하는 Spectre-PHT 공격에 대한 PoC(Proof of Concept)를 제시하였다.

Bocci는 클라우드 에지 환경에서 서버리스 애플리케이션을 서버리스 에지 환경에 효과적으로 할당하는 기법을 제안하였다[14]. 제안된 기법에서는 가장 적합한 서버리스 에지 서버를 찾기 위해서 정보흐름 분석을 활용하였으며, 이를 통하여 사이드 채널을 통한 정보유출 방지를 시도하였다.

FLARE는 보안성을 강화한 분산 데이터 분석 프레임워크이다[15]. 분산 환경에서 데이터를 처리할 때 발생할 수 있는 정보의 유출을 막고 분석 연산의 기밀성과 무결성을 유지하기 위해서, 제안된 기법은 분산 노드에 차별적으로 신뢰도를 부여하고 이를 정보흐름 기법을 통하여 분석하였다.

표 1에서는 주요 정보흐름 분석 연구를 지원 프로그래밍 언어와 런타임 모니터링 지원 여부 등의 특징으로 정리하였다.

Table 1.

Comparison of static analysis techniques on software vulnerabilities

Ⅳ. 접근 제어 분석기법

소프트웨어 시스템은 접근 제어에 대한 정책을 수립하고 이를 런타임에 감시할 필요가 있다. 보안에 민감한 데이터 사용과 시스템 작동이 모두 접근 제어의 대상에 포함된다. 소프트웨어 시스템은 사용자가 속한 그룹을 기준으로 민감 자원에 대한 접근을 제어한다. 서로 다른 신뢰 수준을 가진 소프트웨어 컴포넌트로 이루어진 시스템에서 접근 제어가 제대로 준수되고 있는가를 확인하는 것은 상당히 복잡한 작업이다. 만약 접근제어 정책이 사용자에게 충분한 권한을 부여하지 못한다면 사용자는 필요한 자원에 접근할 수 없게 된다. 반대로 접근 제어 정책이 사용자에게 필요 이상의 권한을 부여하는 경우, 이는 시스템 침해 사고로 이어질 수 있다.

다양한 접근제어 기법 중에서 가장 인기를 끌고 있는 방식은 스택기반 접근제어 방식과 역할기반 접근제어 방식이다. 2가지 방식은 상호 보완적인 성격을 가지고 있으며, 자바 런타임 시스템이나 .NET CLR과 같은 상용 시스템에서는 2가지 방식을 동시에 사용하고 있다.

본 장에서는 컴포넌트 기반 아키텍처에서 활용 가능한 2가지 접근제어 기법을 간단히 비교하고, 이를 구현하는 정적 분석 연구의 최신 동향을 분석한다. 표 1에서는 주요 접근제어 분석 연구를 지원 프로그래밍 언어와 런타임 모니터링 지원 여부 등의 특징으로 정리하였다.

4.1 접근제어기법 비교

스택기반 접근제어는 1997년도에 처음 제안된 이후 사실상 프로그래밍 언어를 활용한 접근제어 기법의 표준으로 자리잡고 있다[16]. 스택기반 접근제어를 사용하는 런타임 시스템은 프로그램 코드가 제한된 자원에 접근하려고 할 때마다 호출 스레드가 위치하는 런타임 스택상의 모든 호출자(Caller)가 접근허가(Permission) 조건을 충족시키는지를 체크한다. 스택기반 접근제어는 신뢰도가 낮은 코드가 신뢰도가 높은 코드를 호출함으로써 제한된 자원에 대한 접근 권한을 얻는 것을 방지하기 위하여 제안되었다. 스택기반 접근제어 기법에서는 소프트웨어 컴포넌트별로 허용된 접근허가를 선언적인 방식으로 데이터베이스에 저장하고 관리한다. 예를 들어 자바 SE에서 시스템 관리자가 어떤 자바 JAR 파일에 FilePermission을 부여하면, 해당 JAR 파일 내부에 정의된 모든 클래스는 런타임에 동일한 권한을 가지게 된다[17].

역할기반 접근제어는 사용자가 조직에서 가지는 역할에 기반을 두고 보안 정책을 세우고 접근 제어를 수행하는 방식이다. 사용자가 애플리케이션의 특정 엔트리 포인트를 실행하는 상황을 가정해 보자. 역할기반 접근제어를 사용하는 경우 사용자는 해당 엔트리 포인트를 지나서 순차적으로 접근할 가능성이 있는 모든 동작에 필요한 역할을 가지고 있어 야만 한다[18].

그림 1은 역할기반 접근제어의 작동 원리를 개념적으로 설명하고 있다. 구현된 시스템 내부에서 엔트리 포인트 m₀의 실행은 다른 컴포넌트 혹은 같은 컴포넌트에 속한 모듈에 대한 순차적인 메소드 호출로 이어지며, 그림에서 노드 사이 에지는 호출 관계를 표현하고 있다. 역할기반 접근제어에서 각 모듈에는 해당 모듈을 실행하기 위해 필요한 역할이 부여된다. 예시된 시스템에는 customer, employee, manager의 3가지 역할이 존재하고 manager가 가장 권한이 높은 역할을, customer가 가장 권한이 낮은 역할을 나타낸다. 주어진 시나리오에서 사용자 Alice는 'employee' 역할을 부여받은 상태에서 엔트리 포인트 m₀을 실행하려고 한다. 그렇지만 이 경우 사용자 Alice의 시도는 역할기반 접근제어 규칙을 위반하게 되어, 실행이 불가능하다. 주어진 시나리오에서 m₀에서 실행을 시작하는 경우 사용자 Alice는 콜 체인을 통해서 모듈 m₁₀부터 모듈 m₃까지 간접적으로 실행하게 된다. 이 경우 사용자 Alice가 가지고 있는 'employee' 역할로 'customer' 역할 권한이 필요한 모듈 m₀, m₁₀을 실행하는 것은 문제가 없지만 모듈 m₁₁을 실행하는데 필요한 'manager' 역할보다는 권한이 낮아 실행이 불가능하기 때문이다.

Fig. 1.

Scenario of role-based access control

역할기반 접근제어를 사용하는 경우 사용자에게는 필요 이상의 역할을 부여해서는 안 된다.

이 법칙은 최소 권한의 법칙이라고 부르는데, 사용자에게 필요 이상의 권한을 부여하는 것은 시스템 침해 사고를 일으킬 수 있는 주요 요인으로 작용할 수 있다. 각 사용자에게 역할과 권한을 부여하는 것은 시스템 관리자의 주된 업무지만, 다수의 컴포넌트로 구성된 복잡한 시스템에서 최소 권한을 분석하는 것은 쉽지 않은 일이다. 소프트웨어 컴포넌트 사이의 콜 패턴을 분석하여 역할기반 최소 권한을 자동으로 분석할 수 있는 정적 분석 도구에 대한 연구는 향후 많은 관심이 필요한 주제라고 판단된다.

Ⅴ. 결론 및 전망

소프트웨어 보안취약점은 소프트웨어 시스템 침해 사고를 일으키기 위해서 공격자가 악용할 수 있는 시스템 내부의 약점을 말한다. 대부분의 보안취약점은 소프트웨어 내부의 보안약점으로 인하여 발생한다. 따라서 시스템을 구성하는 소프트웨어를 실행 전에 분석하여 내부에 존재하는 보안 약점과 취약점을 찾아내는 것은 소프트웨어로 인하여 발생하는 많은 침해 사고를 예방하는 데 중요한 역할을 한다. 정적분석 기법은 소프트웨어가 실행되기 전에 소스 코드를 이용하는 보안 안전성을 분석하는 기법이다. 본 논문에서는 보안취약점을 발견하기 위해서 시용되는 정적분석 기법 중에서 정보흐름과 접근제어의 영역에서의 최근까지의 연구 동향을 분석하였다.

접근제어와 정보흐름을 분석하여 소프트웨어 시스템의 보안성을 검증하는 방법은 지금까지 상당한 진전을 보여 왔으며 앞으로도 꾸준한 발전이 기대되고 있다. 최근에는 서드파티 컴포넌트를 활용하는 서버리스 컴퓨팅이나 마이크로 서비스 아키텍처, 기계 학습을 지원하는 다양한 라이브러리 등이 빠르게 성장하면서 소프트웨어 보안에 새로운 이슈들을 발생시키고 있다[28]-[30].

서버리스 컴퓨팅에서 서로 다른 보안 정책과 보안 지원수준을 가진 컴포넌트를 이용하여 오케스트레이션을 진행하는 경우 컴포넌트 사이의 보안성 침해 가능성을 분석하고 침해 사고를 예방할 수 있는 분석 기법에 대한 연구가 향후 중요한 연구 주제로 부상할 것으로 예상된다.

또한 거대언어모델에 대한 관심과 활용 방법에 대한 연구가 활발해지면서 거대언어모델과 기계학습 기법을 소프트웨어 정적분석에 활용하는 연구도 매우 활발하게 진행되고 있으며, 당분간 중요한 연구 주제로 그 위치를 유지할 것으로 예상된다.

마지막으로 암호화나 보안성을 강화한 통신 프로토콜 등 보안과 관련된 기능 역시 외부에서 제공되는 라이브러리나 컴포넌트를 사용하는 빈도가 증가하고 있는데, 이 경우 잘못된 알고리즘이나 안전하지 않은 구현 코드의 사용은 오히려 사용자 애플리케이션에 보안 취약점을 발생시키는 결과를 낳을 수도 있다. 이와 관련된 공급망에서의 안전성 분석에 관한 연구도 추가적인 관심과 연구가 필요한 영역이다.

References

• "MISRA C", https://misra.org.uk, . [accessed: Jan. 10, 2025].
• "CERT Oracle coding standard for Java", https://insights.sei.cmu.edu/library/cert-secure-coding-books/, . [accessed: Jan. 15, 2025].
• L. Liu, Y. Yao, and J. Li, "A review of the application of component-based software development in open CNC systems", The International Journal of Advanced Manufacturing Technology, Vol. 107, pp. 3727-3753, Apr. 2020. [https://doi.org/10.1007/s00170-020-05258-1]
• H. Hanif, M. H. N. M. Nasir, M. F. A. Razak, A. Firdaus, and N. B. Anuar, "The rise of software vulnerability: Taxonomy of software vulnerabilities detection and machine learning approaches", Journal of Network and Computer Applications, Vol. 179, pp. 103009, Apr. 2021. [https://doi.org/10.1016/j.jnca.2021.103009]
• Z. E. Sartabanova, V. T. Dimitrov, and S. M. Sarsimbayeva, "Applying the knowledge base of CWE weaknesses in software design", Journal of Mathematics, Mechanics and Computer Science, Vol. 108, No. 4, pp. 72-80, Dec. 2020. [https://doi.org/10.26577/jmmcs.2020.v108.i4.06]
• C. Beaman, M. Redbourne, J. D. Mummery, and S. Hakak, "Fuzzing vulnerability discovery techniques: survey, challenges and future directions", Computers & Security, Vol. 120, pp. 102813, Sep. 2022. [https://doi.org/10.1016/j.cose.2022.102813]
• X. Chen, J. An, Z. Xiong, C. Xing, N. Zhao, F. R. Yu, and A. Nallanathan, "Covert communications: A comprehensive survey", IEEE Communications Surveys & Tutorials, Vol. 25, No. 2, pp. 1173-1198, Apr. 2023. [https://doi.org/10.1109/comst.2023.3263921]
• J. Newsome and D. X. Song, "Dynamic taint analysis for automatic detection, analysis, and signature generation of exploits on commodity software", Proc. of Network and Distributed System Security Symposium, Vol. 5, pp. 1-17, Feb. 2005.
• K. Ashcraft and D. Engler, "Using programmer-written compiler extensions to catch security holes", Proc. 2002 IEEE Symposium on Security and Privacy, Berkeley, CA, USA, pp. 143-159, May 2002. [https://doi.org/10.1109/secpri.2002.1004368]
• M. Pendleton, R. Garcia-Lebron, J.-H. Cho, and S. Xu, "A survey on systems security metrics", ACM Computing Surveys, Vol. 49, No. 4, pp. 1-35, Dec. 2017. [https://doi.org/10.1145/3005714]
• J. S. Foster, T. Terauchi, and A. Aiken, "Flow-sensitive type qualifiers", ACM SIGPLAN Notices, Vol. 37, No. 5, pp. 1-12, May 2002. [https://doi.org/10.1145/543552.512531]
• W. Enck, P. Gilbert, S. Han, V. Tendulkar, B.-G. Chun, L. P. Cox, J. Jung, P. McDaniel, and A. N. Sheth, "TaintDroid: An information-flow tracking system for realtime privacy monitoring on smartphones", ACM Transactions on Computer Systems, Vol. 32, No. 2, pp. 1-29, Jun. 2014. [https://doi.org/10.1145/2619091]
• B. A. Shivakumar, J. Barnes, G. Barthe, S. Cauligi, C. Chuengsatiansup, D. Genkin, S. O’Connell, P. Schwabe, R. Q. Sim, and Y. Yarom, "Spectre declassified: Reading from the right place at the wrong time", 2023 IEEE Symposium on Security and Privacy (SP), San Francisco, CA, USA, pp. 1753-1770, May 2023. [https://doi.org/10.1109/sp46215.2023.10179355]
• A. Bocci, S. Forti, G.-L. Ferrari, and A. Brogi, "Declarative secure placement of FaaS orchestrations in the cloud-edge continuum", Electronics, Vol. 12, No. 6, pp. 1332, Mar. 2023. [https://doi.org/10.3390/electronics12061332]
• X. Li, F. Li, and M. Gao, "Flare: A fast, secure, and memory-efficient distributed analytics framework", Proc. of the VLDB Endowment, Vol. 16, No. 6, pp. 1439-1452, Feb. 2023. [https://doi.org/10.14778/3583140.3583158]
• "Overview of Java security models", https://docs.oracle.com/core.1111/introjps.htm, . [accessed: Jan. 15, 2025].
• M. Abadi, M. Budiu, U. Erlingsson, and J. Ligatti, "Control-flow integrity principles, implementations, and applications", ACM Transactions on Information and System Security, Vol. 13, No. 1, pp. 1-40, Oct. 2009. [https://doi.org/10.1145/1609956.1609960]
• S. Sicari, A. Rizzardi, L. Grieco, and A. Coen-Porisini, "Security, privacy and trust in Internet of Things: The road ahead", Computer Networks, Vol. 76, pp. 146-164, Jan. 2015. [https://doi.org/10.1016/j.comnet.2014.11.008]
• M. Patrignani, A. Ahmed, and D. Clarke, "Formal approaches to secure compilation", ACM Computing Surveys, Vol. 51, No. 6, pp. 1-36, Nov. 2019. [https://doi.org/10.1145/3280984]
• W. Khan, M. Kamran, A. Ahmad, F. A. Khan, and A. Derhab, "Formal analysis of language-based android security using theorem proving approach", IEEE Access, Vol. 7, pp. 16550-16560, Jan. 2019. [https://doi.org/10.1109/access.2019.2895261]
• D. S. Wallach, A. W. Appel, and E. W. Felten, "SAFKASI: a security mechanism for language-based systems", ACM Transactions on Software Engineering and Methodology, Vol. 9, No. 4, pp. 341-378, Oct. 2000. [https://doi.org/10.1145/363516.363520]
• A. P. Felt, E. Chin, S. Hanna, D. Song, and D. Wagner, "Android permissions demystified", Proc. of the 18th ACM conference on computer and communications security, Chicago Illinois USA, Vol. 30, pp. 627-638, Oct. 2011. [https://doi.org/10.1145/2046707.2046779]
• F. Pottier, C. Skalka, and S. Smith, "A systematic approach to static access control", ACM Transactions on Programming Languages and Systems, Vol. 27, No. 2, pp. 344-382, Mar. 2005. [https://doi.org/10.1145/1057387.1057392]
• M. Bartoletti, P. Degano, and G. Ferrari, "Static analysis for stack inspection", Electronic Notes in Theoretical Computer Science, Vol. 54, pp. 69-80, Aug. 2001. [https://doi.org/10.1016/s1571-0661(04)00236-1]
• D. Jackson, "Alloy: A lightweight object modelling notation", ACM Transactions on Software Engineering and Methodology, Vol. 11, No. 2, pp. 256-290, Apr. 2002. [https://doi.org/10.1145/505145.505149]
• D. Jackson, I. Schechter, and I. Shlyakhter, "Alcoa: the Alloy constraint analyzer", ICSE '00: Proceedings of the 22nd international conference on Software engineering, Limerick Ireland, pp. 730-733, Jun. 2000. [https://doi.org/10.1109/icse.2000.870482]
• A. Sullivan, K. Wang, R. N. Zaeem, and S. Khurshid, "Automated test generation and mutation testing for Alloy", IEEE International Conference on Software Testing, Verification and Validation (ICST), Tokyo, Japan, pp. 264-275, Mar. 2017. [https://doi.org/10.1109/icst.2017.31]
• S. Chakraborty, R. Krishna, Y. Ding, and B. Ray, "Deep learning based vulnerability detection: Are we there yet?", IEEE Transactions on Software Engineering, Vol. 48, No. 9, pp. 3280-3296, Sep. 2022. [https://doi.org/10.1109/TSE.2021.3087402]
• N. Dragoni, S. Giallorenzo, A. L. Lafuente, M. Mazzara, F. Montesi, R. Mustafin, and L. Safina, "Microservices: Yesterday, today, and tomorrow", Present and Ulterior Software Engineering, pp. 195-216, Sep. 2017. [https://doi.org/10.1007/978-3-319-67425-4_12]
• J. Wen, Z. Chen, X. Jin, and X. Liu, "Rise of the planet of serverless computing: A systematic review", ACM Transactions on Software Engineering and Methodology, Vol. 32, No. 5, pp. 1-61, Jul. 2023. [https://doi.org/10.1145/3579643]