멀티 스레드 - 가시성 (Visibility)

개요

멀티스레드 환경에서 공유 자원을 사용할 때, 주로 원자성과 가시성이 언급되는데 가시성에 대해 알아 보자!

 

---

가시성 (Visibility)

가시성은 사전에 따르면 “눈에 쉽게 보이는 정도”를 뜻하는데 컴퓨터과학에서 가시성이란 다음과 같은 의미를 지니고 있다.

가시성이란 멀티스레드 환경에서 각각의 스레드가 공유자원에 대해서 모두 같은 상태를 바라보고 있는 것을 의미한다.

👉  해당 정의만으로는 직관적인 이해가 어려울 수도 있기에 아래의 예제 코드를 통해 자세하게 다뤄보자.

public class Main {

    boolean runningFlag = true;

    public void test() {
        new Thread(()->{                // 쓰레드 생성
            int count = 0;
            while (runningFlag) {
                count++;
            }
            System.out.println("Thread 1 finished. Counted up to " + count);
        }
        ).start();


        new Thread(()-> {                // 쓰레드 생성 
            try {
                Thread.sleep(100);
            } catch (Exception e) {
                e.printStackTrace();
            }
            System.out.println("Thread 2 finishing");
            runningFlag = false;
        }
        ).start();
    }
    public static void main(String[] args) throws InterruptedException {
        new Main().test();
    }
}

위의 코드를 간략하게 설명하면 boolean 타입 변수인 runningFlag를 true 값으로 선언 후, 2개의 스레드를 생성하는데 첫 번째 스레드는 runningFlag 값에 따른 while 반복문으로 int 타입 변수인 count를 증감 연산하는 것이고, 두 번째 스레드는 스레드를 생성하고 0.1초 후에 runningFlag 값을 false로 변경하는 것이다.

 

해당 코드를 실행하게 되면 아래와 같은 결과를 얻게 된다.

Thread 2 finishing

예상했던 결과는 두 번째 스레드가 실행되어 첫 번째 스레드의 무한루프가 종료되고 그동안 증감연산된 count 변수를 출력하는 것인데 첫 번째 스레드가 종료되지 않는 현상이 발생했다.

 

해당 현상이 발생한 근본적인 원인은 현대 CPU의 메모리 아키텍처, 즉 레지스터와 캐시의 존재 때문이다.

 

위의 현상에 대해 자세하게 설명해보자면 생성한 스레드는 각각의 CPU 코어에 할당되어 작업을 처리하게 되는데 CPU 코어마다 캐시 메모리가 존재한다.

 

첫 번째 스레드는 runningFlag 변수에 있는 데이터를 가져올 때, 자신에게 할당된 CPU 코어의 캐시 메모리를 참조하여 가져오게 되고, 두 번째 스레드 또한 자신에게 할당된 CPU 코어의 캐시 메모리에 있는 값을 변경하고 스레드가 종료되면서 변경된 캐시 메모리의 데이터를 메인 메모리에 업데이트한다.

 

메모리에 있는 runningFlag 변수의 값이 변경되었음에도 불구하고 첫 번째 스레드는 계속 자신의 캐시 메모리를 참조하고 있기 때문에 스레드가 종료되지 않는 것이다.

위 그림처럼 각각의 스레드가 공유하는 runningFlag 변수의 값에 대해 서로 보여지는 값이 다르므로 이를 “비가시성”이라고 한다.

 

✅  [추가 내용] 캐시 메모리

메인 메모리에서 데이터를 Read/Write 하려면 CPU는 수백 사이클의 비용이 들기 때문에 현대의 CPU는 성능 향상을 위해 CPU 내에 캐시 메모리를 가지고 있다.

 

캐시 메모리는 CPU 코어마다 각각 가지고 있는 L1, L2 캐시와 모든 CPU가 공유하는 L3 캐시로 구성되어 있다.

 

CPU는 메모리에서 읽어온 데이터를 캐시 메모리에 저장하고 캐시 메모리에 있는 데이터를 레지스터로 가져와서 처리한다.

 

따라서, 데이터를 가져올 때는 캐시 메모리에 해당 데이터가 있는지 확인하고 없는 경우에만 메인 메모리에 접근하여 데이터를 가져옮으로써 성능을 향상시킬 수 있는 것이다.

 

---

volatile 키워드

위와 같은 문제를 해결하기 위해 각 언어에서는 "volatile" 키워드를 제공한다.

 

volatile 키워드가 붙은 변수는 값을 읽거나 쓰고자 할 때, 캐시 메모리를 사용하지 않고 메인 메모리에 직접 접근하게 된다.

 

따라서, 위의 runningFlag 변수에 volatile 키워드를 붙여주면 첫 번째 스레드가 정상 종료됨을 확인할 수 있다.

public class Main {
volatile boolean runningFlag = true;
                ...
                ...
}

마지막으로 예시로 든 코드는 두 개의 스레드를 생성하여 한 개의 스레드만 공유 자원에 대해 Write 하는 상황인데 여러 개의 스레드가 공유자원에 Write 하게 된다면 volatile 키워드만으로는 경쟁 상태 (Race Condition)을 해결할 수 없기 때문에 synchronized 키워드를 사용해서 원자성 (Atomicity)을 보장해야 한다.

 

원자성이 어떤 것인지에 대해서는 다음 글에서 다룰 예정이다.

 

✅  [추가 내용]  volatile 키워드 in Java

 

Java에서 지원하는 “volatile” 키워드는 다음과 같은 특성을 가진다.

 

① volatile로 선언된 변수가 있는 코드는 최적화되지 않는다.

② volatile 키워드는 변수를 'Main Memory에 저장하겠다'라고 명시하는 것이다.

③ volatile 키워드가 붙은 변수는 값을 Read하거나 Write 할 때, 캐시를 이용하지 않고 메인 메모리에 직접 접근하여 Read/Write를 하게 된다.

 

✅  [추가 내용]  Full Visibility of Volatile Keyword in Java

 

Java에서의 volatile 키워드는 volatile이 붙은 변수만을 메인 메모리에 기록하는 것이 아니라, 해당 volatile 변수와 함께 보여지는 모든 변수가 메인 메모리에 기록된다.

 

👉  즉, volatile 키워드가 붙은 변수와 함께 보여지는 모든 변수가 가시성 보장이 된다는 것 (Full Visibility)

 

간단하게 요약하자면 아래와 같이 정리할 수 있다.

 

① Thread A가 volatile 변수에 Write 하는 경우, volatile 변수 외에도 Thread A가 볼 수 있는 모든 변수들은 메인 메모리에 함께 기록되고 Thread B는 그 최신 값을 볼 수 있다.

② Thread A가 volatile 변수를 Read 하는 경우, Thread A에 표시되는 모든 변수는 메인 메모리에서 다시 읽힌다.

 

지금까지의 설명으로 어느정도 감은 잡았겠지만, 예제 코드를 통해 어떻게 작동되는지 파악해보자.

public class YMD {
    private int years;
    private int months;
    private volatile int days;

    public void update(int years, int months, int days) {
        this.years  = years;
        this.months = months;
        this.days   = days;
    }


    public int totalDays() {
        int total = this.days;
        total += months * 30;
        total += years * 365;
        return total;
    }
}

위의 YMD 클래스에는 years (연도), months (달), days (일)의 3가지 변수를 가지고 있고 그 중 days 변수만 volatile 키워드를 사용하고 있다.

 

update() 메소드 호출 시, days 변수에 값을 쓰게 되면 (Write), 해당 스레드에서 볼 수 있는 모든 변수들 또한 메인 메모리에 기록된다는 것을 의미한다.

 

👉  Full Visibilty를 만족시키기 위해 메인 메모리에 Write 하게 되는 경우에는 volatile 변수를 마지막에 Write 해주어야 한다.

 

즉, volatile 키워드가 붙지 않은 years, months 변수도 메인 메모리에 기록되어 가시성 보장이 된다는 것이다. (Full Visibility)

 

totalDay() 메소드 호출 시에도 days 변수를 읽어오면서 years, months 값도 메인 메모리에서 읽어온다.

 

👉  마찬가지로 Full Visibility를 만족시키기 위해 메인 메모리에 Read 하게 되는 경우는 volatile 변수를 맨 처음에 Read 해주어야 한다.

 

 

✅  [추가 내용]  명령어 재정렬으로 발생하는 문제 (Instruction Reordering Challenges)

 

JVM (컴파일러)에서는 성능을 향상시키기 위해 코드의 실행 동작을 바꾸지 않는 선에서 프로그램의 명령어 순서를 변경할 수 있다.

(Before)
int a = 1;
int b = 2;

a++;
b++;

(After)
int a = 1;
a++;

int b = 2;
b++;

다만, 명령어 Reordering 하는 과정에 volatile 변수가 포함되면 아래와 같은 문제가 발생할 수 있다.

(Before)

public class YMD {
    private int years;
    private int months;
    private volatile int days;

    public void update(int years, int months, int days) {
        this.years  = years;
        this.months = months;
        this.days   = days;                // Full Visibility를 만족시키기 위해 volatile 변수는 마지막에 Write
    }

(After)
        ...
public void update(int years, int months, int days) {
    this.days   = days;
    this.months = months;
    this.years  = years;
}

위의 코드를 보면 명령어 Reordering 하게 된 후에는 months, years 변수가 값을 저장하기 전에 volatile 변수인 days가 먼저 값을 저장하므로 months, year 변수는 메인 메모리에 저장되지 않는다. → 즉, Full Visibility 하지 못한다.

 

이렇게 volatile을 사용하면 Reordering 과정에서 문제가 발생할 수 있어, 이를 방지하기 위해 자바의 volatile은 happens befored을 보장한다.

 

“happens befored”이란 JVM에서 명령어를 재정렬하는 경우, volatile 변수에 대한 쓰기 명령 이전의 명령들은 재정렬 이후에도 volatile 변수에 대한 쓰기 명령 이전에 실행되도록 유지한다.

 

volatile 변수에 대한 읽기 명령 이후의 명령들은 재정렬 이후에도 volatile 변수에 대한 읽기 명령 이후에 실행되도록 유지한다.

 

즉, 간단하게 말해서 명령어 재정렬이 발생하지 않는 것이다!!

 

---

Reference

https://yeonyeon.tistory.com/270

https://onlyfor-me-blog.tistory.com/539

https://ko.wikipedia.org/wiki/%EC%9B%90%EC%9E%90%EC%84%B1

https://ttl-blog.tistory.com/238#%F0%9F%A7%90%20volatile%EC%9D%98%20%EB%AC%B8%EC%A0%9C-1

https://mygumi.tistory.com/111

http://tutorials.jenkov.com/java-concurrency/volatile.html

Java Volatile Keyword

[JAVA] Volatile 이란?

원자적 행위 - 위키백과, 우리 모두의 백과사전

원자성 - 위키백과, 우리 모두의 백과사전

Atomic Operation이란? :: 마이구미

동시성이란? 가시성이란? 원자성이란?

동시성 (Concurrency) vs 병렬성 (Parallelism)