sequire technology

Der Einsatz von großen Sprachmodellen (LLMs) stellt unterschiedliche Branchen vor die gleiche Herausforderung: Wie kann man LLMs vor Hackerangriffen schützen? 🤖 Genau darauf geht unser Geschäftsführer Christoph Endres auf der anstehenden #Strategietagung "Die digitale Zukunft des #Kundenservice" am 8. und 9. Oktober 2024 in Frankfurt ein. Generative KI, wie ChatGPT, wird von vielen zu unterschiedlichen Zwecken genutzt. Daher freuen wir uns das Bewusstsein für die Risiken auch auf dieser Tagung stärken zu dürfen. Danke, dass wir dabei sind! 💪 #CircleofKI #ManagementCircle #Kundenservice

Der Einsatz von KI im Unternehmen bringt Veränderung für Mitarbeitende mit sich – aber WIE wird aus Veränderung auch Verbesserung? 🚀 „Durch Wertschätzung!“ So war die klare Botschaft im Vortrag von Andreas Knauer, Gründer und CEO von DIE PERSPEKTUR. Damit unser gruppenweiter Innovation Day auch Früchte tragen kann, haben wir uns besonders über den Change Management Vortrag gefreut. Jede Veränderung ist anfangs herausfordernd. Besonders, wenn sich Projekte und Technologien schneller entwickeln, als sich die Menschen daran gewöhnen können. Vielen Dank, dass du uns aufgezeigt hast, wie Veränderung gelingen kann und welche Prozesse in der Organisation und dem Individuum beachtet werden sollten. 💪 #ChangeManagement #KIimUnternehmen #Wertschätzung #InnovationDay #Organisationsentwicklung #TechnologieWandel #Leadership #DigitaleTransformation

Sequire in Nairobi verpasst? Kein Problem! Zum International Collaboration Hub ging es für uns, genauer gesagt unseren Managing Director Christoph Endres nach Nairobi (zumindest virtuell). Als Experte hat Christoph über die Bedeutung des Schutzes von KI-Systemen vor potenziellen Bedrohungen und Schwachstellen gesprochen. Dabei hob er wichtige Strategien zur Absicherung dieser Technologien hervor. Den Vortrag in voller Länge gibt es jetzt auf unserem YouTube-Kanal: https://lnkd.in/dMK7Fiat #AI #KI #InternationalCollaboration #ITSecurity #PromptInjection

Lokale Zusammenarbeit führt zu neuen Ideen in der Forschung 💡 Vor einigen Wochen hielt unser Geschäftsführer Dr. Christoph Endres einen Vortrag bei CERTAIN am Deutsches Forschungszentrum für Künstliche Intelligenz (DFKI) in Saarbrücken zum Thema Kompromittieren von Sprachmodellen. In der anschließenden Diskussion stellte Dr. Simon Ostermann eine sehr interessante Frage: “Könnte das naive Begging-Konzept nicht vielleicht doch funktionieren, wenn man es mit Soft Prompting bzw. Prompt Tuning kombiniert?”  Nach einer weiteren Diskussion und einem Gegenbesuch bei sequire war klar: Diese Idee ist gut, das wollen wir genauer untersuchen. 💪 Heute wurde nun auf arXiv unser extended Abstract veröffentlicht: “Soft Begging: Modular and Efficient Shielding of LLMs against Prompt Injection and Jailbreaking based on Prompt Tuning” von Simon Ostermann, Kevin Baum, Christoph Endres, Julia Masloh und Patrick Schramowski. Link dazu im ersten Kommentar. Was haltet ihr von diesem Ansatz? Wir freuen uns auf eure Meinung. #Innovation #PaperPublication #SpeechModelSecurity #AIResearch #arXiv #PromptTuning #CyberSecurity #AcademicCollaboration #DFKI

Unser erster, gruppenweiter Innovation Day war ein voller Erfolg und macht Lust auf mehr! 🚀 Auf unserem gruppenweiten Event hatten unsere Kolleginnen und Kollegen die Chance nicht nur gemeinsam, sondern auch voneinander zu lernen. Um für uns und unsere Kunden Mehrwerte und neue Ansätze zu eruieren, fanden Experten-Vorträge aus den eigenen Reihen, Diskussionsrunden und Workshops zu Potenzialen und Grenzen von KI statt. 🤖 Wir freuen uns sehr über das Engagement und die Initiative unserer Mitarbeitenden, gemeinsam diese Einsatzpotenziale in unserer täglichen (Projekt-)Arbeit auszuloten. Unserer erster Innovation Day bringt Aufwind und Inspiration in unsere Unternehmen und die gesammelten Erkenntnisse werden uns definitiv auch in Zukunft begleiten. Vielen Dank an unsere Kolleginnen und Kollegen, die Universität des Saarlandes und das Innovation Center, das uns die Plattform für diesen Austausch geboten hat. 💡 #InnovationDay #Teamwork #GenerativeAI #KünstlicheIntelligenz #Innovationskraft #GemeinsamStark #Weiterbildung #KIimArbeitsalltag #Zukunftsorientiert #Mitarbeiterengagement #Lernkultur #SaarlandUniversity #InnovationCenter

Expertenwissen rund um LLMs? Aber mit Sicherheit! ✅ In unserem neuen Newsletter werden unsere Expert:innen ihr Wissen zu LLMs und noch vielem mehr mit Ihnen teilen. Dabei erhalten Sie in monatlichen Ausgaben Updates zu aktuellen Entwicklungen und Einblicken rund um das Thema Cybersicherheit. Neben eigenem Expertenwissen veröffentlichen wir regelmäßig Inhalte mit und von anderen Expert:innen aus der Branche! Seien Sie gespannt und abonnieren Sie unseren Newsletter, um keine Ausgabe zu verpassen. 👇 Auf LinkedIn abonnieren: https://lnkd.in/eWfk6Ub5 #Sicherheit #LLMs #Cybersicherheit #Expertenwissen #Newsletter #TechnologieUpdates #ITSecurity

Danke für 1.000 Follower! 🚀 Wir sind begeistert und unglaublich dankbar, dass uns bereits 1.000 von Ihnen auf LinkedIn folgen! Bei sequire steht Sicherheit an erster Stelle, denn unser Name ist Programm: "security" (englisch für Sicherheit) und "quire" (lateinisch für können). IT-Systeme sicher zu machen, ist unsere Leidenschaft und genau das, was wir am besten können. 🔐 Unser Team bringt umfangreiche Erfahrung aus verschiedenen Industriezweigen mit, um in der schnelllebigen Welt der IT-Sicherheit stets einen Schritt voraus zu sein. Unser Spezialgebiet ist hierbei die Sicherheit von KI-Systemen. Auf die nächsten 1.000 Follower! Danke, dass Sie ein Teil unserer Reise sind. #Danke #1000Follower #ITSicherheit #Sequire #SicherheitKönnenWir #CyberSecurtiy #LLMs #IndirectPromptInjection

Unser erster gruppenübergreifender Innovation Day! 💻🎉

🛡️🔒Risiken und Nebenwirkungen von LLMs: Wir kennen Gegenmaßnahmen 🔒🛡️ Zuletzt berichteten wir in einer Reihe über die Bedrohungen von großen Sprachmodellen. Wir hielten fest, dass die Schwachstellen in großen Sprachmodellen tief verwurzelt sind und sich nicht einfach abschalten lassen. Filter und Zugriffsbeschränkungen bekämpfen nur die Symptome, nicht die Ursachen. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) warnt vor den Risiken und empfiehlt vor der Integration von LLMs eine Risikoanalyse. Eine wichtige Maßnahme, um die Sicherheit zu gewährleisten. Wir arbeiten aktiv an der Lösung dieser Herausforderung, sowohl konstruktiv als auch in Bezug auf Tests von LLMs. #Sprachmodelle #Sicherheit #BSI #Risikoanalyse #Cybersicherheit

🚨 Gefahren großer Sprachmodelle: Stufe 3 - Indirect Prompt Injection 🚨 Neben Model Misalignment und der Prompt Injection wirft auch die Indirect Prompt Injection ein beunruhigendes Licht auf die Sicherheit von Sprachmodellen. Angreifer können diese Modelle gezielt unter ihre Kontrolle bringen, indem sie Anweisungen in den Dialogkontext einschleusen. Unsere Analyse zeigt, dass dies über hochgeladene Dokumente oder den Zugriff auf Internet, E-Mails oder Datenbanken erfolgen kann. Es ist entscheidend, diese Bedrohungen ernst zu nehmen und angemessene Sicherheitsvorkehrungen zu treffen, um die Integrität von Sprachmodellen zu schützen. #Sprachmodelle #Sicherheit #IndirectPromptInjection #Cybersicherheit