10
1 1) Administrative details 2) Signals 2 Signals and Systems EECE233 is about using mathematical techniques to help analyze and synthesize systems which process signals. Signals are variables that carry information. Systems process input signals to produce output signals. Today: Signals, next lecture: Systems. EECE233 Signals and Systems Lecture Note #1 Prof. Joon Ho Cho (Slides thanks to Qing Hu*, D. Boning, D. Freeman, T. Weiss, J. White, and A. Willsky) * These lecture notes are based on the lecture notes used in 6.003 taught by Prof. Qing Hu at M.I.T. These notes are adopted for EECE233 under the permission of Prof. Qing Hu.

Signals and Systemscisl.postech.ac.kr/class/eece233/lec1.pdf · 2019-05-21 · 1 1 1) Administrative details 2) Signals 2 Signals and Systems EECE233 is about using mathematical techniques

  • Upload
    others

  • View
    3

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Signals and Systemscisl.postech.ac.kr/class/eece233/lec1.pdf · 2019-05-21 · 1 1 1) Administrative details 2) Signals 2 Signals and Systems EECE233 is about using mathematical techniques

1

1

1) Administrative details2) Signals

2

Signals and Systems

EECE233 is about using mathematical techniques to helpanalyze and synthesize systems which process signals.

• Signals are variables that carry information.

• Systems process input signals to produce outputsignals.

Today: Signals, next lecture: Systems.

EECE233 Signals and Systems Lecture Note #1 Prof. Joon Ho Cho (Slides thanks to Qing Hu*, D. Boning, D. Freeman, T. Weiss, J. White, and A. Willsky)

* These lecture notes are based on the lecture notes used in 6.003 taught by Prof. Qing Hu at M.I.T. These notes are adopted for EECE233 under the permission of Prof. Qing Hu.

EECE233
Engineer는 physical system과 its mathematical model의 차이를 알아야 한다. 이 과목에서는 physical signal과 system을 수학적으로 모델링하여, powerful mathematical tools를 사용하여 전개한 이론을 배운다.
EECE233
이 과목에서 계속 나오는 두 상대어 analysis와 synthesis(또는 design). 기억할 것.
EECE233
some mathematical entities that model a signal: scalar vector matrix sequence waveform field . . . POLYNOMIAL!!!
EECE233
System is something that transforms the INPUT to the OUTPUT. An appropriate mathematical concept of a system is a mapping rule. Thus, like a function, it consists of three components: 1) the set of admissible inputs, 2) the set of possible outputs, and 3) the mapping rule between the two sets.
EECE233
여러분은 AM및 FM라디오를 들어본 적이 있을 것이다. 방송국 스튜디오에서 만들어지는 라디오 방송프로그램은 어떤 과정을 통해 라디오를 통해 우리 귀에 들려지는가? 조금 구체적으로 음성이 어떤 전기전자기기를 통해 안테나로 쏘아지고 먼 거리를 가서 다시 안테나를 통해 어떻게 처리되어 어떤 과정을 통해 스피커를 울리는가? 'AM 1550 kHz에서 KBS라디오가 나온다, FM 93.1 MHz에서 MBC FM이 나온다'라는 말을 할때, AM은 무엇이고 FM은 무엇이고 1550KHz는 무엇을 뜻하고 93.1 MHz는 무엇을 뜻하는가? 이 과목에서 이에 대해 아주 자세히 다루지는 않겠지만, 이의 이해를 위한 기본 지식들을 배우게 되며 적어도 AM라디오의 작동원리에 대한 수학적 이해에는 충분히 도달하게 될 것이다.
EECE233
AM라디오와 같은 '시스템'의 동작 원리를 '수학적'으로 다루기 위해 이 과목에서는 '수학'에서 배운 'mathematical entities'를 이용하여 실제 시스템을 수학적으로 모델링하고 그 입출력간의 관계를 수학적으로 설명하기 위해 '신호'라는 개념을 도입한다.
EECE233
some mathematical entities that model a system: function from R into R function from R^M into R^N function from a set of signals into another set of signals a matrix a sequence a waveform a differential equation a difference equation . . . POLYNOMIAL!!! . . GRAPH!!
EECE233
Learn by hands, not by eyeballs.
EECE233
Q. Can you build an AM radio transmitter/receiver?
EECE233
A system is a mapping from a set of input signals to a set of output signals. /ex/ 1. f: R-> R y=f(x) 2. H: R^M -> R^N y = Hx 3. H: a set of CT signals -> a set of CT signals y(t) = h(t)*x(t)
Page 2: Signals and Systemscisl.postech.ac.kr/class/eece233/lec1.pdf · 2019-05-21 · 1 1 1) Administrative details 2) Signals 2 Signals and Systems EECE233 is about using mathematical techniques

2

3

Examples of signals

• Electrical signals --- voltages and currents in a circuit

• Acoustic signals --- audio or speech signals (analog ordigital)

• Video signals --- intensity variations in an image (e.g. aCAT scan)

• Biological signals --- sequence of bases in a gene M

• In EECE233, we will treat noise as unwanted signals

4

Signal ClassificationType of Independent Variable

Time is often the independent variable. Example: theelectrical activity of the heart recorded with chestelectrodes –– the electrocardiogram (ECG or EKG).

EECE233
These are examples of PHYSICAL signals. Q: What are the mathematical models of these signals?
EECE233
CAT: Computerized Axial Tomography
EECE233
bases 염기서열
EECE233
To model a noise, we use random variables, random vectors, random sequences, random waveforms, random fields, etc., as learned in 전자 수학2.
EECE233
이 과목에서는 "tree 분류"에 대해 많이 언급할 것임. 어떤 집합을 partitioning하는 것이 분류임. 주어진 집합에 대해 partitioning하는 법은 유일하지도 않고 많은 경우 그 기준이 모든 사람을 만족시키지도 않음. 그러나 분류하는 것은 하지 않는 것 보다 더 나은 이해를 가능케 하며 이론을 정립할 수 있게 해줌. 아마추어와 프로의 차이는 "분류할 줄 아느냐 모르느냐"임. 완벽한 분류를 없으나 분류없는 체계와 이론은 없음.
EECE233
Electro Cardio Gram 심전도
EECE233
1-D(dimensional) signal의 예 즉 신호가 a real-valued function from R into R 인 경우가 예로 들어져 있음.
EECE233
사실 이 과목에서 noise를 다루지는 않은다. 그리고 학부 레벨에서는 통신, 신호처리, 제어 과목에서도 noise를 별로 다루지 않는다. 하지만, 대학원 레벨에서 통신, 신호처리 및 제어과목을 수강하고 전공하기 위해서는 noise를 수학적으로 다룰 줄 아는 능력이 필수적이다. 따라서 이를 대학원 레벨에서 전공하고자 하는 학생의 경우 학부과정에서부터 '확률 및 랜덤변수, 랜덤 프로세스'과목의 수강 및 내용의 완벽한 이해가 필히 요구된다.
EECE233
영화 Swing Girls에 보면 터프가이 한 명이 나와서 '사람은 스윙하는 자와 스윙하지 않는자로 나뉜다' 류의 말을 계속한다. 이분법에 그쳐 아쉽기는 하나 어쨌든 학문하는 방법적 기본 자세가 된 녀석이다.
EECE233
Every classification is not perfect, but it's always better than no classification.
EECE233
The left signal can be mathematically modeled as a function x: R->R Since the domain is 1-D, the signal is a 1-D signal.
Page 3: Signals and Systemscisl.postech.ac.kr/class/eece233/lec1.pdf · 2019-05-21 · 1 1 1) Administrative details 2) Signals 2 Signals and Systems EECE233 is about using mathematical techniques

3

5

The variables can also be spatial

Eg. Cervical MRI

In this example, thesignal is the intensity asa function of the spatialvariables x and y.

6

Independent Variable DimensionalityAn independent variable can be 1-D (t in the EKG) or 2-D(x, y in an image).

In EECE233, focus on 1-D for mathematical simplicity but the results can beextended to 2-D or even higher dimensions. Also, we will use a generictime t for the independent variable,whether it is time or space.

EECE233
2-D signal의 예 즉 신호가 a real-valued function from R^2 into R 인 경우가 예로 들어져 있음.
EECE233
cervical: 목의
EECE233
MRI: Magnetic Resonance Image 참고로 이런 의료 영상 장치를 개발한 사람들이 노벨 의학상을 수상하였음.
EECE233
independent variables of a signal = parameters of a signal signal을 #of signal parameters를 기준으로 분류할 수 있겠다.
EECE233
signal을 a function A into B라고 modeling할때 예를 들어 A가 R^M 이면 이 signal은 M-dimensional signal 이다. signal을 modeling하는 함수의 independent variables 또는 independent parameters의 수가 신호의 dimension이 된다.
EECE233
ex/ still image
EECE233
3-D /ex/ video signal hologram image
EECE233
The left signal can be modeled as, e.g., x: {1,2,...,800}x{1,2,...,600} -> [0,1] Since the domain is 2-D, this signal is a 2-D signal.
Page 4: Signals and Systemscisl.postech.ac.kr/class/eece233/lec1.pdf · 2019-05-21 · 1 1 1) Administrative details 2) Signals 2 Signals and Systems EECE233 is about using mathematical techniques

4

7

Continuous-time (CT) Signals

• Most of the signals in the physical world are CT signals,since the time scale is infinitesimally fine, so are thespatial scales. E.g. voltage & current, pressure,temperature, velocity, etc.

8

Discrete-time (DT) Signals

• Examples of DT signals in nature:— DNA base sequence— Population of the nth generation of certain species M

• Notation in EECE233: x(t) –– CT, x[n] –– DT

• x[n], n — integer, time varies discretely

EECE233
Signal을 또한 parameter가 continuous set의 원소인지 (continuous-paramter signal) 또는 discrete set의 원소인지(discrete-parameter signal)에 따라 분류할 수 있겠다. 특히 parameter가 하나이고 그것이 time 이라는 물리량과 관련되면 각각 continuous-time signal, discrete-time signal이라고 부름.
EECE233
(): round bracket or parenthesis
EECE233
[]: square bracket <>: bracket
EECE233
흔히, continuous-time signal은 아날로그 신호, discrete-time signal은 디지털 신호라고 생각하는데 디지털 기기에서 주고 받는 신호도 오실로스코프로 찍어 보면 모두 continuous-time signal로 보인다. 다만, 그 값이 0 볼트 또는 5 볼트로 discrete하다. 그렇다면 continuous-valued signal과 discrete-valued signal을 배우는 것이 옳을 것 같은데, 사실 이는 본말 전도이며, 원하는 기능을 내기 위해 discrete-valued signal을 써서 discrete-time signal효과를 내는 것이 디지털 기기이다.
EECE233
In this course, we mainly deal with two kinds of 1-D signals: 1) a continuous-time (CT) signal and 2) a discrete-time (DT) signal.
EECE233
A CT signal x(t) is modeled by a map x: R->R (or C).
EECE233
A DT signal is modeled by x: Z-> R (or C).
Page 5: Signals and Systemscisl.postech.ac.kr/class/eece233/lec1.pdf · 2019-05-21 · 1 1 1) Administrative details 2) Signals 2 Signals and Systems EECE233 is about using mathematical techniques

5

9

Many human-made Signals are DTEx.#1 Weekly Dow-Jonesindustrial average

Why DT? — Can be processed by modern digital computersand digital signal processors (DSPs).

Ex.#2 digital image

Ex#3. ticking clock M

10

Mandrill ExampleUnblurred Image & No Noise

EECE233
DJIA
EECE233
In many cases, DIGITAL not only means discrete time but also means finite alphabet. (i.e., discrete-valued...) If a signal has a quantized level then it has a discrete alphabet. However, discrete alphabet does not necessarilly mean finite alphabet.
EECE233
Mandrill: western African baboon
EECE233
사실 이와 같은 흑백 still image는 그 밝기를 나타내는 레벨의 수가 한정되어 있으므로 2-D discrete-parameter discrete-valued signal이다.
Page 6: Signals and Systemscisl.postech.ac.kr/class/eece233/lec1.pdf · 2019-05-21 · 1 1 1) Administrative details 2) Signals 2 Signals and Systems EECE233 is about using mathematical techniques

6

11

Mandrill ExampleBlurred Image (bad focus)

12

Mandrill ExampleUnblurred Image – 0.1% Noise (too dark)

Page 7: Signals and Systemscisl.postech.ac.kr/class/eece233/lec1.pdf · 2019-05-21 · 1 1 1) Administrative details 2) Signals 2 Signals and Systems EECE233 is about using mathematical techniques

7

13

Signals with symmetry• Periodic signals

CT x(t) = x(t + T)

DT x[n] = x[n + N]

• Ex. 60-Hz power line, computer clock, etc.

14

Signals with symmetry (continued)• Even and odd signals

Even x(t) = x(-t) or x[n] = x[-n]

Odd x(t) = -x(-t) or x[n] = -x[-n]

x(0) = 0or x[0] = 0

EECE233
signal의 분류법은 여러가지임. 먼저 discrete-time, continuous-time을 배웠고, 여기서는 binary 분류법으로 symmetric, asymmetric을 배움. 그외, periodic vs. aperiodic even vs. odd vs... conjugate symmetric vs. conjugate anti-symmetric....
EECE233
", for all n" is missing.
EECE233
Again ", for all n" is missing.
EECE233
The oddness of x(t) or x[n] implies ....
EECE233
예를 들어 우리가 어떤 물리적 신호를 모델링 하기 위해 real-valued continuous-time signal에 관심이 있다고 하자. 그럼 우리는 수학적인 집합으로 모든 R into R인 함수들의 집합을 생각할 수 있겠다. 이 거대한 집합은 그러나 이 대로는 뭘 더 이야기 할 수 없다. 따라서 하는 일이 분류이다. 어떤 차이점에 따라 공통점을 가지는 신호들의 부분집합으로 묶는 것이다. 그러면 각각의 부분집합의 원소들은 공통점을 가지므로 이 공통점이 유도하는 여러 특성들을 말할 수 있게 된다. 이렇듯, 모든 것을 집합으로 생각하고 어떤 기준(criterion)에 따라 분류하는 것은 모든 체계저인 학문의 일반적인 작업과정이며, 모든 전문가가 나름대로 할 수 있어야 하는 작업이다.
EECE233
다른 표현으로 x(t) = x(t+nT), for all n \in Z 여기서 T가 양수이면 이를 x의 주기 period라 하고 \in은 latex command로 a member of 란 뜻이고 Z 는 모든 정수의 집합.
EECE233
여기서 N이 양수 이면 N을 x의 주기라 한다.
EECE233
, for all t is missing.
EECE233
, for all n \in Z is missing.
EECE233
"for all t" is missing.
EECE233
Again, "for all t" is missing.
EECE233
모든 신호의 집합을 주기 신호의 부분집합과 주기 신호가 아닌 신호의 부분집합으로 partitioning 할 수 있다.
EECE233
모든 신호의 집합에서 even symmetric signals의 부분집합과 odd symmetric signals 의 부분 집합을 구하고 나도 이 mutually exclusive한 부분집합들에 속하지 않는 신호들이 대부분이다. 그렇다면 이 분류는 별 의미 없는 것일까?
EECE233
예를 들어 전체 DT신호의 집합은, 주기신호라는 부분집합과 그의 여집합으로 partitioning되는데, 당연히 여집합이 훨씬 큰 집합니다. 흥미롭게도, 많은 aperiodic signal이 periodic signals의 linear combination으로 나타난다.
EECE233
Q1. T/F The sum of two DT periodic signals is periodic. Q2. T/F The sum of two CT periodic signals is periodic.
EECE233
Draw a Venn diagram whenever you classify something.
EECE233
Drawing a Venn diagram, we notice immediately that this classification of even and odd signals leaves a lot of signals unclassified. Then, why do we learn about this classification?
Page 8: Signals and Systemscisl.postech.ac.kr/class/eece233/lec1.pdf · 2019-05-21 · 1 1 1) Administrative details 2) Signals 2 Signals and Systems EECE233 is about using mathematical techniques

8

15

Signals with symmetry (continued)• Any signals can be expressed as a sum of Even and

Odd signals. That is:

x(t) = xeven(t) + xodd(t) ,

where

xeven(t) = [x(t) + x(-t)]/2 , xodd(t) = [x(t) - x(-t)]/2 .

Ex. DT unit-stepfunction.

16

Right- and Left-Sided Signals

A right-sided signal is zero for t < T and a left-sided signalis zero for t > T, where T can be positive or negative.

EECE233
따라서 the even part plus the odd part becomes the original signal Simialrly, a complex-valued signal has its real part and its imaginary part. Q: How can you find these two parts? Do they sum to the original signal? What about a square matrix? Can you decompose it to the sum of the symmetric part and skew-symmetric part?
EECE233
놀랍게도 even symmetric도 odd symmetric도 하지 않은 신호는 an even symmetric signal과 an odd symmetric signal의 합으로 항상 unique하게 나타낼 수 있다. 놀랍지 않은가?
EECE233
Similarly, any complex-valued CT signal can be always rewritten as the unique sum of a conjugate symmetric signal and a conjugate anti-symmetric signal. Q. How?
EECE233
a real-valued square matrix도 a symmetric matrix와 a skew-symmetric matrix의 합으로 나타낼 수 있고 a complex-valued square matrix 도 a conjugate-symmetric matrix와 a skew-conjugate-symmetric matrix의 합으로 나타낼 수 있다. 어떻게?
EECE233
right-sided도 left-sided도 아닌 신호들이 대부분이지만, right-sided signals와 left-sided signals로의 분류는 후에 Laplace transform과 z- transform을 배울때 매우 중요한 분류임이 밝혀진다.
Page 9: Signals and Systemscisl.postech.ac.kr/class/eece233/lec1.pdf · 2019-05-21 · 1 1 1) Administrative details 2) Signals 2 Signals and Systems EECE233 is about using mathematical techniques

9

17

Bounded and Unbounded Signals

Whether the output signal of a system is bounded orunbounded determines the stability of the system.Eg. Demo, the inverted pendulum, unstable but can bestabilized using a feedback control system.

18

Real and Complex SignalsA very important class of signals is:

• CT signals of the form x(t) = est

• DT signals of the form x[n] = zn

where z and s are complex numbers. For both exponentialCT and DT signals, x is a complex quantity and has:

• a real and imaginary part, or equivalently

• a magnitude and a phase angle.

We will use whichever form that is convenient.

EECE233
In Automatic Control course, you will learn the BIBO (Bounded-Input Bounded-Output) stability of a system and its importance.
EECE233
viewed in the Cartesian coordinate
EECE233
viewed in the polar coordinate
EECE233
원격 수술 로봇 시스템이 있을때 메스를 든 팔의 길이가 시스템의 출력 신호라면 만약 이 신호가 unbounded signal일 수 있다면 문제가 심각할 것이다.
EECE233
one-sided signals with T=0를 right-sided with T=0 (causal) vs. left-sided with T=0 (anti-causal)로 나누고 모든 신호를 bounded vs. unbounded로 나누면 4가지 부분집합이 생긴다. 여기 그림들은 이를 예시한 것이다.
EECE233
e^{st} 에서 t는 시간을 나타내는 독립변수 s는 상수이다. 그런데 이 상수가 복수수면 어떻게 되는가?
EECE233
s=a+jb 로 놓으면 (여기서 a, b는 real) e^(at)e^(jbt)= e^(at)(cos(bt)+jsin(bt))
EECE233
comlex-valued signal을 왜 골치아프게 쓰느냐는 질문을 간혹 듣는데... 예를 들어 신호 둘을 한번에 나타낼 필요가 있을때 2-by-1 vector-valued real signal로 쓰는 것 보다 complex-valued scalar signal로 쓰는 것이 간편할 때가 있다. 그리고 후에 통신시간에 배우겠지만, real-valued bandpass signal과 complex-valued baseband signal은 어떤 조건하에서 등가관계에 있다. 대학원가면 complex-valued signal로 통신시스템의 신호를 다루는 경우가 많다.
EECE233
Later, you will learn causal/non-causal SYSTEMs. Be cautious! Here we are talking about causal/anti-causal SIGNALs.
Page 10: Signals and Systemscisl.postech.ac.kr/class/eece233/lec1.pdf · 2019-05-21 · 1 1 1) Administrative details 2) Signals 2 Signals and Systems EECE233 is about using mathematical techniques

10

19

For example, suppose s = j!/8 and z = e j!/8, then thereal parts are

R {x(t) = est} = R {e j!t/8} = cos(!t/8),

R {x[n] = zn} = R {e j!n/8} = cos[!n/8].

20

Summary• We are awash in a sea of signal –– sounds, visual,

electrical, thermal, mechanical, etc.

• Signals can be time-varying or spatially varying, canbe a function of multiple variables. However, in EECE233, we will mostly deal with 1D signals and use a generic time t to represent the variable,whether it is time, space, or something else.

• DT signals and systems become more and moreimportant for signal processing, and will be a majorpart in EECE233.

EECE233
"An imaginary tale: the story of the square root of negative 1"
EECE233
Q: What is Euler's identity?
EECE233
앞서 잠시 언급했듯, signal can be classified as a deterministic signal and a random signal.
EECE233
awash: washed by a sea
EECE233
하지만 random signal은 주로 대학원 가서 다룬다. 학부 과정에서는 3학년 1학기 과목인 490H Probability, Random Variables, and Random Processes에서 이에 대해 배운다.
EECE233
Euler's identity를 이용하여 고등학교에서 배운 삼각함수의 여러 정리를 유도하여 보라.
EECE233
Q. w가 양의 실수일 때 cos(wt)는 주기함수인가? 여기서 t는 실수 Q. w가 양의 실수일 때 cos(wn)는 주기함수인가? 여기서 n은 정수
EECE233
e^{j \theta} = cos(\theta)+ j sin(\theta) /ex/ e^{j\pi} + 1 = 0 The most beautiful equality. -Richard Feynman-