Iip saa s - kennissessie exact - tu delft - deel 2

17-09-10

Challenge the future

Delft University of Technology

NWO Scale.It.Up research project Andy Zaidman

2

Collaboration Exact – TU Delft

MTS project

1 PhD student Funded by Exact

…

Many others!

Industry

as laboratory

NWO Jacquard Scale.It.Up project

3

NWO Jacquard Scale.It.Up project

• 440K € funding from NWO, Dutch science foundation

• Starts November 1st, 2010 (lasts approximately 4 years)

• 2 PhD students

• Brings together:

4

Industry as laboratory approach Industry

as laboratory

We have a question or

issue Research + prototype

Research please!

Evaluate please!

Research papers

Ideas or techniques for

next-gen products

5

What is the setting of Scale.It.Up?

• Multi-tenant software systems

• A single (or limited number of) physical servers

• A large and diverse user base

• Requirements

1. Configurability: system configurable per tenant

2. Performance: system should cope with large user base

3. Zero-downtime: downtime should be (near) zero

vs.

6

Requirement 1: configurability

• 1 server, 1 application reduces cost of deployment

• Yet, tenants want configurability/customization • Look-and-feel, workflow, opportunities for integration

• Solution: online versioning • Ideally, the software can be configured for each tenant

limited number of configurability options

probably fine for most tenants

• More configurability? Maintain different versions of services

create specific service for tenant, country, branche, …

also allows tenants to stick with old version for some time

7

Requirement 2: performance

• 1 or a limited number of servers

• Optimal use of hardware resources

• But when should we scale up? • Precise performance monitoring • Identify critical points ahead

• Past usage behavior

• Exceptional events (end-of-month, taxes, …)

8

Requirement 3: Zero-downtime

• 1 server, many users

• Only 1 server single point of failure for many users

• Solutions: • Build in redundancy

let backup server take over for a while

• Allow online upgrades and tests

• When is the load of the server low enough to test?

• When are the least number of users affected?

9

Innovations w.r.t. maintenance and

zero downtime

Create an update

Schedule test

Perform

Test

Schedule update

Integrate update

Key aspects Evolve and test the MT application @ zero-downtime

Key technologies

Tracing/monitoring

Versioning

Configurability

Online testing

10

Innovations w.r.t. performance

• Determine critical points in time at which the hardware should be scaled up

• Extend current load-balancing schemes with tenant-specific information (e.g., time-zone, past usage behavior)

11

Eager to start!

Follow our adventures:

http://swerl.tudelft.nl/bin/view/ScaleItUp/WebHome

12

QUESTIONS?

More information:

Web: http://www.st.ewi.tudelft.nl/~zaidman

Email: a.e.zaidman@tudelft.nl

13

Network and service orchestration

IP SaaS kennissessie

Dr.ir. Marijn Janssen

Delft University of Technology

14

Traditional Software Software as a Service

• Large monolithic

• Develop, Implement , Maintain your Own

• Creating of legacy

• Designed to last

• Variety of expertise

• Quality assurance? Back up options?

• Software becomes utility

• Subscribe, Plug In, Use, Pay-per-Use

• No concern of updates, always up-to-date

• Problem shift to composing and integration

15

Service compositie voor maatwerk

Services portfolio

15 Cascadis masterclass

Public services

Private services

ZZP/Sole*

* self-employed without any personnel

16

The Promises of SaaS

• Real-time

• Pay-per-use

• No maintenance and control costs

• Always up-to-date (versioning)

• Service vendor should ensure availability, scalability,

security and other quality requirements

• Increased control by users

• Easier exchange of data

• Focus on acquiring functionality

• No need for software monitoring, although ..

• ..

17

Saas brings new challenges • Bepalen wat we willen

• Zoeken van geschikte services • Waar zijn de services te vinden?

• Wie beheert ‘gouden gids’

• Zijn services getest? Gecertificeerd?

• Service integratie • Kunnen de services samenwerken?

• Welke service volgt na welke?

• Service uitvoering • Doen alle services het? Hoe continuïteit garanderen?

• Service levels? Hoe opschalen?

• Eind-tot-eind beveiliging? Autorisatie tot data?

• Welke wetgevings regime als de grens overgestoken wordt?

• Wat gebeurt er als er een deel faalt?

• Geeft service het juiste ‘antwoord’?

• Wie is er verantwoordelijk als iets missies-kritisch niet werkt?

• Wie is eigenaar van de informatie?

KERN: grotere directe afhankelijkheid van andere partijen

18

Wie orchestreert de afhankelijkheden? overheidbedrijfsleven

?

Burger/bedrijf

• Hoe zo zooi? • Hoe verkrijgen ik de

voordelen? • Heb ik genoeg kennis?

En tijd? • Hoe dienstgericht

werken? • Wie investeert in de

keten? • Wie is de regisseur?

19

De klant orchestreert: “alles zelf doen”

klant

aanvraag

antwoord aanvraag

antwoord

• Ondernemer heeft contact met vele

organisaties voor belastingaangifte,

voor leaseauto, boekhouding, ….

• Vele afstemmingen

• Managen van verschillende

contracten en sevice levels

• Duplicaties gegevens

• Inefficiënte uitvoering

• Onthoudt het maar eens ..

17-09-10

Challenge the future

Delft University of Technology

Hoe gebeurt dit op andere plaatsen?

21

Georchestreerd dienstverleningsproces*

klant

aanvraag beschikking

orkestrerend proces

georkestreerd proces

• Een ‘orchestrator’ of ‘service broker’

neemt orchestratietaken over van

klant

• Klant heeft eenduidig aanspreekpunt

• Klant krijgt eenduidig antwoord

• De orchestrator selecteert services,

integreert, monitored en neemt

maatregelen

• Geen onnodig specialistische kennis

nodig en langdurige zoekprocessen

• Betrouwbaarheid

• Orchestrator specialiseert

• Innovatie ligt ook bij orchestrator

22

Restaurant

17-09-10

Challenge the future

Delft University of Technology

Welke orchestrator rollen zijn er?

24

Ketenorchestrator rollen

• Ervaring laat zien dat verschillende rollen noodzakelijk zijn

• Rollen kunnen bij verschillende partijen belegd zijn

1. Initiator en facilitator (mogelijk maken)

2. Ontwikkelen (applicate en keten)

3. Standaardiseren

4. Compositie

5. Technische facilitator (infrastructuur)

6. Dagelijkse aansturing en voortgangscontrole

7. Service and product aggregatie

8. Accountability

9. Continue procesverbetering

17-09-10

Challenge the future

Delft University of Technology

Voorbeelden

26

Hoe kunnen we dit realiseren?

26 Cascadis masterclass

27

Uitgangspunten

• De klant stuurt, maar heeft niet de last

• Specialisatie blijft

• Werken in silo’s, maar verder kijken

• Regie over de silo’s

• Kunnen meerdere orchestratoren zijn

• Specialiseren in services zoeken, afspraken maken en integreren

• Maakt het makkelijker

• Continue services toevoegen, verwijderen en innoveren

28

Hoe ondersteunen we dit?

Scan bonControleer data en

bevestig

Registreer roujte

Controleer route

met

adressenbestand

Registreer prive of

werk rit

Registreer prive of

werk rit

overheden autoverzekering

29

Platform as a Service – klant stuurt

Scan bonControleer data en

bevestig

Registreer roujte

Controleer route

met

adressenbestand

overheden autoverzekering

Afgelegde km

datawarehouse

Registreer prive of

werk rit

Kla

nt in

fo

Geografische

data

Kla

nt in

fo

SaaS providers

Registreer prive of

werk rit

I-phone scan

30

Practice might be more complex: mixed

orchesration forms

Orc

hestra

tor

A

B

C

D

E

F

Full orchestration

• Hub and Spoke relationship

• Hub can be a service provider or neutral

platofrm coordiantion

• Coordination is handled by the hub

exclusively

• Economies of scale and scope

Level of

use

r in

volo

vem

ent

broker

A

B

C

Multi party peer-to-peer relationship

• User coordinates one part

• Broker for selecting trusted services

• Context and Activity are explicit

• Context, ALS and Coordination are handled

by the fabric

D

E

F

Self-coordination

• Context and Activity are most often implicit

• Specialist expertise and knowledge

• Monitoring and keeping up-to-date

A

B

C

D

E

F

Level o

f outso

urcin

g

31

Het gaat om alle lagen*

Co

ord

ina

tio

n

Info

rma

tio

n

(te

ch

no

log

y)

Org

an

iza

tio

n

an

d p

roce

sse

s

Ne

two

rk a

nd

Go

ve

rna

nce

Agreements and contracts

Power and trust

Accountability

Division of roles

Responsibilities

Aligning processes

Interoperability

Standards

Data

*B. Klievink & M.Janssen (2010). Coordinating Multichannel Service Delivery in Digital Government. In: Proceedings of the 11th annual conference on Digital Government Research dg.o 2010 (published by ACM), May 17-20, Puebla, Mexico, pp. 209-216.

32

Going beyond the goldrush requires interdisciplinary collaboration in open networks of business, government and academia

33

Gezamenlijke onderzoeksvragen

• Mogen we wel informatiedelen (privacy)?

• Hoe weet je dat de informatie secure is?

• De keten is afhankelijke van de zwakste schakel

• Nieuwe type ‘business modellen’ ontstaan. Wie betaald de

orchestrator?

• Hoe omgaan met SLA’s?

• Wie monitort en grijpt in?

• Failliet en wat nu?

• Hoe omgaan met onbekende partijen?

• Wie is verantwoordelijk? Who is to blame?

34

Vragen en discussie

Marijn Janssen m.f.w.h.a.janssen@tudelft.nl