Embed Size (px)
DESCRIPTION
Citation preview
17-09-10
Challenge the future
Delft University of Technology
NWO Scale.It.Up research project Andy Zaidman
2
Collaboration Exact – TU Delft
MTS project
1 PhD student Funded by Exact
…
Many others!
Industry
as laboratory
NWO Jacquard Scale.It.Up project
3
NWO Jacquard Scale.It.Up project
• 440K € funding from NWO, Dutch science foundation
• Starts November 1st, 2010 (lasts approximately 4 years)
• 2 PhD students
• Brings together:
4
Industry as laboratory approach Industry
as laboratory
We have a question or
issue Research + prototype
Research please!
Evaluate please!
Research papers
Ideas or techniques for
next-gen products
5
What is the setting of Scale.It.Up?
• Multi-tenant software systems
• A single (or limited number of) physical servers
• A large and diverse user base
• Requirements
1. Configurability: system configurable per tenant
2. Performance: system should cope with large user base
3. Zero-downtime: downtime should be (near) zero
vs.
6
Requirement 1: configurability
• 1 server, 1 application reduces cost of deployment
• Yet, tenants want configurability/customization • Look-and-feel, workflow, opportunities for integration
• Solution: online versioning • Ideally, the software can be configured for each tenant
limited number of configurability options
probably fine for most tenants
• More configurability? Maintain different versions of services
create specific service for tenant, country, branche, …
also allows tenants to stick with old version for some time
7
Requirement 2: performance
• 1 or a limited number of servers
• Optimal use of hardware resources
• But when should we scale up? • Precise performance monitoring • Identify critical points ahead
• Past usage behavior
• Exceptional events (end-of-month, taxes, …)
8
Requirement 3: Zero-downtime
• 1 server, many users
• Only 1 server single point of failure for many users
• Solutions: • Build in redundancy
let backup server take over for a while
• Allow online upgrades and tests
• When is the load of the server low enough to test?
• When are the least number of users affected?
9
Innovations w.r.t. maintenance and
zero downtime
Create an update
Schedule test
Perform
Test
Schedule update
Integrate update
Key aspects Evolve and test the MT application @ zero-downtime
Key technologies
Tracing/monitoring
Versioning
Configurability
Online testing
10
Innovations w.r.t. performance
• Determine critical points in time at which the hardware should be scaled up
• Extend current load-balancing schemes with tenant-specific information (e.g., time-zone, past usage behavior)
11
Eager to start!
Follow our adventures:
http://swerl.tudelft.nl/bin/view/ScaleItUp/WebHome
13
Network and service orchestration
IP SaaS kennissessie
Dr.ir. Marijn Janssen
Delft University of Technology
14
Traditional Software Software as a Service
• Large monolithic
• Develop, Implement , Maintain your Own
• Creating of legacy
• Designed to last
• Variety of expertise
• Quality assurance? Back up options?
• Software becomes utility
• Subscribe, Plug In, Use, Pay-per-Use
• No concern of updates, always up-to-date
• Problem shift to composing and integration
15
Service compositie voor maatwerk
Services portfolio
15 Cascadis masterclass
Public services
Private services
ZZP/Sole*
* self-employed without any personnel
16
The Promises of SaaS
• Real-time
• Pay-per-use
• No maintenance and control costs
• Always up-to-date (versioning)
• Service vendor should ensure availability, scalability,
security and other quality requirements
• Increased control by users
• Easier exchange of data
• Focus on acquiring functionality
• No need for software monitoring, although ..
• ..
17
Saas brings new challenges • Bepalen wat we willen
• Zoeken van geschikte services • Waar zijn de services te vinden?
• Wie beheert ‘gouden gids’
• Zijn services getest? Gecertificeerd?
• Service integratie • Kunnen de services samenwerken?
• Welke service volgt na welke?
• Service uitvoering • Doen alle services het? Hoe continuïteit garanderen?
• Service levels? Hoe opschalen?
• Eind-tot-eind beveiliging? Autorisatie tot data?
• Welke wetgevings regime als de grens overgestoken wordt?
• Wat gebeurt er als er een deel faalt?
• Geeft service het juiste ‘antwoord’?
• Wie is er verantwoordelijk als iets missies-kritisch niet werkt?
• Wie is eigenaar van de informatie?
KERN: grotere directe afhankelijkheid van andere partijen
18
Wie orchestreert de afhankelijkheden? overheidbedrijfsleven
?
Burger/bedrijf
• Hoe zo zooi? • Hoe verkrijgen ik de
voordelen? • Heb ik genoeg kennis?
En tijd? • Hoe dienstgericht
werken? • Wie investeert in de
keten? • Wie is de regisseur?
19
De klant orchestreert: “alles zelf doen”
klant
aanvraag
antwoord aanvraag
antwoord
• Ondernemer heeft contact met vele
organisaties voor belastingaangifte,
voor leaseauto, boekhouding, ….
• Vele afstemmingen
• Managen van verschillende
contracten en sevice levels
• Duplicaties gegevens
• Inefficiënte uitvoering
• Onthoudt het maar eens ..
17-09-10
Challenge the future
Delft University of Technology
Hoe gebeurt dit op andere plaatsen?
21
Georchestreerd dienstverleningsproces*
klant
aanvraag beschikking
orkestrerend proces
georkestreerd proces
• Een ‘orchestrator’ of ‘service broker’
neemt orchestratietaken over van
klant
• Klant heeft eenduidig aanspreekpunt
• Klant krijgt eenduidig antwoord
• De orchestrator selecteert services,
integreert, monitored en neemt
maatregelen
• Geen onnodig specialistische kennis
nodig en langdurige zoekprocessen
• Betrouwbaarheid
• Orchestrator specialiseert
• Innovatie ligt ook bij orchestrator
22
Restaurant
17-09-10
Challenge the future
Delft University of Technology
Welke orchestrator rollen zijn er?
24
Ketenorchestrator rollen
• Ervaring laat zien dat verschillende rollen noodzakelijk zijn
• Rollen kunnen bij verschillende partijen belegd zijn
1. Initiator en facilitator (mogelijk maken)
2. Ontwikkelen (applicate en keten)
3. Standaardiseren
4. Compositie
5. Technische facilitator (infrastructuur)
6. Dagelijkse aansturing en voortgangscontrole
7. Service and product aggregatie
8. Accountability
9. Continue procesverbetering
17-09-10
Challenge the future
Delft University of Technology
Voorbeelden
26
Hoe kunnen we dit realiseren?
26 Cascadis masterclass
27
Uitgangspunten
• De klant stuurt, maar heeft niet de last
• Specialisatie blijft
• Werken in silo’s, maar verder kijken
• Regie over de silo’s
• Kunnen meerdere orchestratoren zijn
• Specialiseren in services zoeken, afspraken maken en integreren
• Maakt het makkelijker
• Continue services toevoegen, verwijderen en innoveren
28
Hoe ondersteunen we dit?
Scan bonControleer data en
bevestig
Registreer roujte
Controleer route
met
adressenbestand
Registreer prive of
werk rit
Registreer prive of
werk rit
overheden autoverzekering
29
Platform as a Service – klant stuurt
Scan bonControleer data en
bevestig
Registreer roujte
Controleer route
met
adressenbestand
overheden autoverzekering
Afgelegde km
datawarehouse
Registreer prive of
werk rit
Kla
nt in
fo
Geografische
data
Kla
nt in
fo
SaaS providers
Registreer prive of
werk rit
I-phone scan
30
Practice might be more complex: mixed
orchesration forms
Orc
hestra
tor
A
B
C
D
E
F
Full orchestration
• Hub and Spoke relationship
• Hub can be a service provider or neutral
platofrm coordiantion
• Coordination is handled by the hub
exclusively
• Economies of scale and scope
Level of
use
r in
volo
vem
ent
broker
A
B
C
Multi party peer-to-peer relationship
• User coordinates one part
• Broker for selecting trusted services
• Context and Activity are explicit
• Context, ALS and Coordination are handled
by the fabric
D
E
F
Self-coordination
• Context and Activity are most often implicit
• Specialist expertise and knowledge
• Monitoring and keeping up-to-date
A
B
C
D
E
F
Level o
f outso
urcin
g
31
Het gaat om alle lagen*
Co
ord
ina
tio
n
Info
rma
tio
n
(te
ch
no
log
y)
Org
an
iza
tio
n
an
d p
roce
sse
s
Ne
two
rk a
nd
Go
ve
rna
nce
Agreements and contracts
Power and trust
Accountability
Division of roles
Responsibilities
Aligning processes
Interoperability
Standards
Data
*B. Klievink & M.Janssen (2010). Coordinating Multichannel Service Delivery in Digital Government. In: Proceedings of the 11th annual conference on Digital Government Research dg.o 2010 (published by ACM), May 17-20, Puebla, Mexico, pp. 209-216.
32
Going beyond the goldrush requires interdisciplinary collaboration in open networks of business, government and academia
33
Gezamenlijke onderzoeksvragen
• Mogen we wel informatiedelen (privacy)?
• Hoe weet je dat de informatie secure is?
• De keten is afhankelijke van de zwakste schakel
• Nieuwe type ‘business modellen’ ontstaan. Wie betaald de
orchestrator?
• Hoe omgaan met SLA’s?
• Wie monitort en grijpt in?
• Failliet en wat nu?
• Hoe omgaan met onbekende partijen?
• Wie is verantwoordelijk? Who is to blame?
