Leo's Garage

word embedding은 단어를 벡터로 바꿔서 의미를 수학적으로 다루는 방법이다.우리가 진짜로 얻고 싶은건 단어 백터 $w$인데, 말뭉치에서 직접 관측되는 건 단어가 어디서, 어떤 단어와 함께 등장했는지(분포) 뿐이다.그래서 거의 모든 임베딩은 아래 가정에서 출발한다.비슷한 의미의 단어는 비슷한 문맥에서 등장한다. (Distributional Hypothesis)이번 글은 아래 3가지를 "하나의 관점(내적, PMI)"으로 정리하고자 한다.내적이 임베딩에서 뭘 의미하는지PMI/PPMI가 왜 자꾸 나오는지GloVe, CBOW가 각각 어떻게 학습되는지 출처 GloVe: Pennington, Socher, Manning (2014), GloVe: Global Vectors for Word Representa..

Softmax가 뭘 하는 함수인가?Softmax는 여러 개의 "점수(score, logit)"을 받아서, 이를 확률처럼 해석 가능한 값들의 묶음으로 바꿔주는 함수이다.입력: 클래스별 점수 (예: 고양이 2.0, 개 1.0, 토끼 0.1)출력: 각 클래스에 대한 값 (0 ~ 1), 전체 합이 1즉, 결과는 "확률 분포 형태"가 되어, 한 샘플이 여러 클래스 중 '하나'일 때 "모델이 각 후보에 얼마나 무게를 두는지"를 직관적으로 볼 수 있다. "확률로 만든다"의 의미여기서 "확률"은 현실 세계의 진짜 확률을 보장한다는 뜻이 아니라여러 후보의 유력함을 0 ~ 1 사이의 '몫(지분)'으로 바꾸고, 그 몫들의 합이 1이 되게 만든 것그래서 마치 확률처럼 읽을 수 있음 비유 1: 케이크 지분 점수는 그냥 "선호..

느낀점이 논문은 무선 네트워크(IEEE 802.11 a/b)와 전력선 통신(HomePlug 1.0 PLC) 네트워크의 성능을 비교한 내용을 담고 있다. 저자들은 두 기술의 이론적 처리량을 분석하고, 플로리다 주 20가구에서 실제 현장 테스트를 진행했다. 이 연구는 연결성, 채널 안정성 및 신뢰성과 같은 요소를 평가하여 멀티미디어 트래픽을 위한 서비스 품질(QoS) 지원 능력에 미치는 영향을 파악하는데 중점을 두었다. 전반적으로 HomePlug 1.0은 더 나은 커버리지와 안정성을 보였지만, 802.11b는 특정 조건에서 더 높은 처리량을 제공했다.Problem Statement이 논문의 핵심 문제 정의는 IEEE 802.11a/b 무선 네트워크와 HomePlug 1.0 기반 전력선 통신(PLC) 네트워크..

느낀점HomePlug 1.0 MAC의 CSMA/CA 성능 분석은 홈 네트워킹 기술 중 하나인 전력선 통신(PLC), 특히 HomePlug 1.0 시스템의 성능을 평가한 논문이다. 이 연구는 HomePlug 1.0 MAC(Medium Access Control) 계층의 처리량(throughput)과 지연(delay)을 포화(saturation) 및 비포화(unsaturated) 트래픽 조건에서 분석하기 위한 새로운 수학적 모델을 제안한다. 또한, 제안된 모델을 시뮬레이션을 통해 검증하고, CSMA/CA(Carrier Sense Multiple-Access/Collision Avoidance) 프로토콜의 우선순위 결정 및 랜덤 백오프(Random Backoff) 절차가 시스템 성능에 미치는 영향을 중점적으로..

느낀점본 연구는 홈 네트워킹을 위한 전력선 통신 표준인 HomePlug 1.0의 MAC(Media Access Control) 처리량 성능을 분석한다. 이 연구는 HomePlug 1.0의 MAC 알고리즘을 위한 분석 모델을 제시하며, 특히 포화 처리량 측면에서 성능을 평가한다. 저자들은 CSMA/CA 기반의 우선순위 해결 및 무작위 백오프 절차를 상세히 설명하고, 이들을 3차원 이산 시간 마르코프 체인으로 모델링한다. 이 모델을 통해 HomePlug 1.0 시스템의 MAC 포화 처리량을 계산하고, 시뮬레이션 결과와 비교하여 분석 모델의 정확성을 검증한다. 마지막으로, 스테이션 수와 우선순위에 따른 MAC 처리량의 변화를 탐구하며, 낮은 우선순위 그룹이 더 큰 경쟁 윈도우(CW) 크기로 인해 더 높은 처리..

통신 네트워크에서 자주 언급되는 ALOHA 시스템은 사실상 오늘날 무선 랜(Wi-Fi), 셀룰러 네트워크 MAC 설계의 "원조"라고 할 수 있다. 1. 정의ALOHA는 1970년대 하와이 대학에서 개발한 무선 패킷 라디오 네트워크 프로토콜이다.목적: 여러 사용자가 하나의 무선 채널을 공유할 때, 어떻게 충돌을 해결하고 공평하게 데이터를 전송 할 수 있는가? 2. 동작 방식ALOHA에는 두 가지 변형이 있다. Pure ALOHA (순수 ALOHA)사용자가 언제든지 패킷이 생기면 곧바로 채널에 전송만약 충돌이 나면, 일정 시간 뒤에 랜덤 backoff 후 재전송문제: 시간 동기화가 없기 때문에 충돌 확률이 매우 높음Slotted ALOHA (슬롯 ALOHA)시간을 일정한 슬롯 단위로 나눔사용자는 반드시 슬..

마르코프 체인(Markov Chain) 모델은 통신, 네트워크, 운영체제, 실시간 시스템등에서 자원 사용이나 사건 발생 확률을 모델링할 대 많이 쓴다. 1. 기본 개념정의: 마르코프 체인은 확률 과정(stochastic process)의 일종으로, "현재 상태가 주어지면 미래 상태는 과거 상태와 무관하다"는 마르코프 성질(Markov Property)을 가진다.$$P(X_{t+1} | X_t, X_{t-1}, ..., X_0)=P(X_{t+1}|X_t)$$$X_t$: 시간 $t$에서의 상태미래는 오직 현재 상태에만 의존 2. 모델 구성 요소상태 집합 (State space, S)예: ${Idle, Success, Collision}$네트워크에서는 슬롯이 Idle인지, 성공적 전송인지, 충돌인지 등으로 정..

느낀점본 논문은 PLC(전력선 통신)를 이용한 V2G(차량-전력망) 통신에서 발생하는 우선순위 역전 문제를 다룬다. ISO/IEC 15118 표준 기술인 HomePlug Green PHY는 전기차 충전 트래픽에 높은 우선 순위를 부여하지만, 숨겨진 스테이션 문제로 인해 이 우선순위 체계가 제대로 작동하지 않아 데이터 지연 및 손실이 발생할 수 있다. 본 연구는 이러한 문제의 발생 확률을 분석하고, 수신기 감도를 조절하여 우선순위 역전을 방지하는 새로운 방안을 제안한다. 시뮬레이션 결과, 제안된 방식이 우선순위 역전을 해결할 뿐만 아니라 전체적인 네트워크 성능을 향상시키는 것으로 나타났다. Problem Statement본 논문은 전기차(EV) 충전 인프라와 전력망을 연결하는 Vehicle-to-Grid(..

HPGP(HomePlug Green PHY) 기반 PLC 환경에서의 세 가지 MAC 접근—① Adaptive-CW CSMA/CA, ② 하이브리드 MAC(2CA-R² 계열), ③ 클러스터/슬롯 기반 TDMA—를 수식 중심으로 정리한 내용이다.분석 범위에는 1:1(두 노드), 5노드 시나리오와, SLAC(Signal Level Attenuation Characterization)로 인한 제어 트래픽 및 시간 점유가 포함된다.1. 모델링 가정과 기호노드 수: $N\in{2,5}$ (1:1은 $N=2$, 5노드 환경은 $N=5$)슬롯 시간: $\sigma$, 성공 슬롯 지속시간: $T_{\text{succ}}$, 충돌 슬롯 지속시간: $T_{\text{coll}}$페이로드(유효 데이터) 전송 시간: $T_{\t..

느낀점본 논문은 기계 유형 통신(M2M)을 위한 2CA-R2라는 하이브리드 MAC 프로토콜을 소개하고 평가한다. 이 프로토콜은 충돌 해결 간격(CRI)과 데이터 전송 간격(DTI)의 두 가지 작동 단계로 구성된다. 핵심은 충돌 해결 간격에서 적응형-2C 알고리즘을 사용하여 동적으로 전송 확률을 조정하는 것이다. 저자들은 이 프로토콜을 마르코프 체인으로 모델링하고 이산 이벤트 시뮬레이션을 통해 성능을 평가하며, 널리 사용되는 DCF(분산 조정 기능)와 비교하여 2CA-R2가 더 높은 네트워크 처리량과 낮은 엑세스 지연을 달성함을 보여준다.본 연구에서 언급되거나 추론할 수 있는 한계는 아래와 같다.미지의 대규모 네트워크 확장성: 2CA-R2는 최대 256개의 스테이션을 대상으로 평가되었으며, 이보다 더 많은..